Dale clic derecho>exit en la bandeja con el icono del avg.
Sino matalo con el administrador de tareas, en procesos, es el que dice avgemc.exe
Saludos