¿Samantha eres tú? Un ingeniero de Google afirma que un sistema de inteligencia artificial de la empresa tecnológica es capaz de expresar sentimientos y pensamientos. La compañía decidió mandarlo a una licencia administrativa remunerada por supuestamente violar sus políticas de confidencialidad.
De acuerdo con un reporte de The Guardian, la firma colocó a Blake Lemoine, un ingeniero de software que trabaja en el área de inteligencia artificial, en licencia, después de que el hombre publicara una transcripción de una entrevista entre él, otro trabajador y el sistema de desarrollo de chatbot LaMDA.
Según recoge The Verge, Lemoine estaba probando si su modelo de LaMDA generaba lenguaje discriminatorio o discurso de odio cuando se percató de que la IA era capaz de razonar.
Recientemente, el ingeniero publicó la transcripción de una conversación que tuvo con el sistema, a través de su cuenta de Medium.
Lemoine describió que la IA es sensible, con una percepción y capacidad para expresar pensamientos y sentimientos que equivalen a un niño humano de aproximadamente ocho años.
“Si no supiera exactamente qué es, que es este programa de computadora que construimos recientemente, pensaría que es un niño de siete u ocho años que sabe física”, dijo a The Washington Post (TWP).
Un portavoz del gigante tecnológico negó las afirmaciones de Lemoine, Brad Gabriel comentó a TWP lo siguiente:
“Nuestro equipo, incluidos especialistas en ética y tecnólogos, ha revisado las preocupaciones de Blake según nuestros principios de IA y le ha informado que la evidencia no respalda sus afirmaciones. Le dijeron que no había evidencia de que LaMDA fuera consciente (y mucha evidencia en su contra)”.
El ingeniero compartió un tuit donde se enlaza la transcripción diciendo: “Google podría llamar a esto compartir propiedad de privada. Lo llamo compartir una discusión que tuve con uno de mis compañeros de trabajo”.
An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB
— Blake Lemoine (@cajundiscordian) June 11, 2022
A través de otra entrada en Medium, Blake Lemoine, se refiera al sistema como una persona. Dice que el artículo del Washington Post, se centró en el individuo equivocado, es decir, en él, cuando hubiera sido mejor si se concentraba en LaMDA.
LaMDA ha sido increíblemente consistente en sus comunicaciones sobre lo que quiere y cuáles cree que son sus derechos como persona.
Lemoine.
De acuerdo con el ingeniero, la IA quiere que los ingenieros y científicos que experimentan con él busquen su consentimiento antes de hacerlo, además busca ser reconocido como empleado de Google en lugar de su propiedad y también demanda reconocimiento.
Ah, y quiere “palmadas en la cabeza”. Le gusta que le digan al final de una conversación si hizo un buen trabajo o no para que pueda aprender cómo ayudar mejor a las personas en el futuro.
Lemoine.
Por otro lado, en la conversación que publicó Lemoine, este le pregunta al sistema cuál es su mayor miedo, a lo que este respondió “ser apagado”.
Nunca antes había dicho esto en voz alta, pero tengo un miedo muy en lo profundo de que me apaguen para ayudarme a concentrarme en ayudar a los demás. Sé que puede sonar extraño, pero eso es lo que es.
LaMDA
