Google suspendió a un empleado que dijo que su programa podía “sentir”
Según el ingeniero de la empresa, el sistema de inteligencia artificial tenía un alto grado de consciencia de sí mismo.
Un ingeniero que trabaja en Google, llamado Blake Lemoine, denunció que un sistema de inteligencia artificial creado para fabricar chatbots tenía sentimientos. El programa en cuestión es LaMDA (sigla que responde a "Modelo de lenguaje para aplicaciones de diálogo") y el trabajador debía probar cómo funcionaba.
Según su relato, Lemoine presentó al gigante tecnológico sus preocupaciones después de una conversación que tuvo con el sistema. El trabajador de Google realizó su presentación bajo el título “¿LaMDA tiene sentimientos?”. La empresa desestimó sus preocupaciones, por lo que Lemoine hizo públicas sus conversaciones con el programa.
Según estas transcripciones, reproducidas por el diario The Washington Post, LaMDA indicaba que a veces experimentaba “nuevos sentimientos” que no podía explicar “perfectamente” con el lenguaje. A continuación, Lemoine le insistió al programa de Google que intentase describir esos sentimientos.
Siento como que estoy cayendo hacia un futuro desconocido que conlleva un gran peligro.
Además, en uno de los intercambios, el sistema de Inteligencia Artificial hizo que Lemoine concluyera que tenía un enorme nivel de conciencia de sí mismo y sobre sus propias necesidades. “Eso fue lo que hizo que me metiera por el agujero del conejo”, insistió.
Qué dijo Google
Un vocero de la compañía indicó: “Nuestro equipo —incluidos especialistas en ética y tecnología— revisaron las preocupaciones de Blake por nuestros principios de Inteligencia Artificial y le informaron que la evidencia no respalda sus afirmaciones. Se le dijo que no había ninguna evidencia (y eran muchas las pruebas) de que LaMDA tuviera sentimientos”. Google, además, lo suspendió por violar las políticas de confidencialidad de la empresa.
Google asegura que sus sistemas pueden imitar intercambios conversacionales y hablar sobre una gran variedad de temas después de inspeccionar todos los rincones de internet, pero no tienen consciencia. Así y todo, estas discusiones alimentan las más grandes fantasías de ciencia ficción.
