培训机构不给发票确实违法。消费者在进行消费后，有权要求商家提供发票作为购货凭证。如若商家拒绝提供发票或以其他方式推脱，消费者可以向税务机关投诉。税务机关将根据调查结果，对拒开发票的商家实施相应处罚。

法律依据出自《刑法》第二百零一条。根据该条款，纳税人如果采用欺骗、隐瞒等手段进行虚假纳税申报或不申报，以逃避缴纳税款，且数额较大并占应纳税额的百分之十以上的，将面临三年以下有期徒刑或拘役，并处以罚金。如果逃避的税款数额巨大，且占应纳税额的百分之三十以上，则将面临三年至七年的有期徒刑，并处以罚金。对于扣缴义务人，如不缴或少缴已扣、已收税款，且数额较大，也将依照上述规定进行处罚。

若消费者遇到多次实施逃税行为的商家，税务机关已依法下达追缴通知后，商家在补缴税款、滞纳金，并已受过行政处罚后，可以不再追究刑事责任。但需注意，若五年内商家因逃避缴纳税款而受到刑事处罚或被税务机关给予二次以上行政处罚，则不予免除刑事责任。