Geoffrey Hinton, conocido como el “padrino de la inteligencia artificial”, renunció a su puesto en Google para sumarse a quienes critican la tecnología que él mismo ayudó a crear. El informático británico de 75 años es pionero en el desarrollo de redes neuronales y aprendizaje automático, las cuales son base de sistemas como ChatGPT, Google Bard y similares. Sin embargo, ahora se arrepiente del trabajo de su vida y afirma que salió de la compañía “para poder hablar sobre los peligros de la IA”.
En una entrevista para The New York Times, Hinton confirmó que notificó a Google de su renuncia “el mes pasado”. El jueves 27 de abril, el investigador finalmente habló directamente con Sundar Pichai, CEO de Alphabet, la empresa madre de Google, aunque no revelaron los detalles de la conversación.
“Hay una parte de mí que lamenta el trabajo de toda mi vida”, admitió Hinton al medio estadounidense. “Me consuelo con la excusa normal: si no lo hubiera hecho yo, lo habría hecho alguien más”, agregó.
“Es difícil ver cómo puedes prevenir que que actores malintencionados lo usen para cosas malas”, apuntó Hinton.
Tras la publicación, de la reveladora entrevista, el ‘padrino de la IA’ aclaró en su cuenta de Twitter por qué dejó la big tech.
“En el NYT de hoy, Cade Metz insinúa que dejé Google para poder criticar a Google. En realidad, me fui para poder hablar sobre los peligros de la IA sin considerar cómo afecta esto a Google. Google ha actuado de forma muy responsable”, escribió.
Por supuesto, la decisión del científico británico tiene asombrado al sector tech (por decir lo menos). En 2012, Hinton y dos de sus estudiantes de posgrado en Toronto, Ilya Sutskever y Alex Krishevsky, crearon un sistema matemático y computacional que aprende habilidades mediante el análisis de datos.
La creación del equipo podía analizar miles de fotos y aprender a identificar objetos comunes, como automóviles, perros y gatos. Esto supuso un salto enorme para la inteligencia artificial y aceleró su desarrollo de forma vertiginosa, por lo que en 2018 recibieron el Premio Turing, llamado ‘el Nobel de computación‘.
Google compró por 44 millones de dólares la empresa fundada por Hinton y sus dos alumnos, así como el sistema que habían creado. Dicha tecnología sentó las bases para sistemas cada vez más avanzados y poderosos, como Google Bard y otros bots conversacionales. Por su parte, Sutskever se convirtió en jefe científico de OpenAI, creadores de ChatGPT, GPT-4 y Dall-E, entre otros.
En la charla con el NYT, destacó que Google actuó “de forma muy responsable” y como un “buen administrador” de la IA hasta el año pasado, procurando no lanzar productos que pudieran hacer daño.
Todo cambió cuando Microsoft integró ChatGPT a su buscador Bing, desafiando a Google en una carrera que ahora “podría ser imposible de detener”, dice Hinton.
Geoffrey Hinton compartió cuáles son sus principales temores respecto a la tecnología que ayudó a construir. Su preocupación a corto plazo es la generación y consumo de contenidos digitales ‘engañosos’. Es decir, que “internet se llenará con fotos, videos y textos falsos, y ya no podrá saber qué es verdad”.
El hombre también concuerda con las proyecciones de que la IA eliminará gran cantidad de trabajos, principalmente los más rutinarios. “Se quita el trabajo pesado, pero podría quitar más que eso”, indicó.
A largo plazo, le preocupa que esta tecnología funcione mejor que el cerebro humano y no se pueda garantizar que esté bajo control. Es decir que, a medida que la IA comience a escribir y ejecutar su propio código, adquiera el potencial de eliminar a la humanidad.
“En este momento, (los sistemas de IA) no son más inteligentes que nosotros, por lo que puedo decir. Pero creo que pronto lo serán”, aseguró en declaraciones para la BBC. “Y dada la tasa de progreso, esperamos que las cosas mejoren bastante rápido. Así que debemos preocuparnos por eso”, añadió.
Dijo también que está convencido de que los sistemas de IA se vuelven cada vez más peligrosos conforme mejoran. “No creo que deban ampliar esto más hasta que hayan entendido si pueden controlarlo”, puntualizó el pionero de la inteligencia artificial.
“Tal vez lo que sucede en esos sistemas es mucho mejor que lo que sucede en el cerebro”, dijo para el diario neoyorkino. “Basta recordar cómo era hace apenas hace cinco años y cómo es ahora… Si tomas ese lapso y lo proyectas al futuro, da miedo”.
“Algunos creían en la idea de que estas cosas podían volverse más inteligentes que las personas… Pero la mayoría pensó que estaba muy lejos. Yo pensé que estaba muy lejos. Pensé que faltaban entre 30 y 50 años o incluso más. Obviamente, ya no pienso eso”, dijo Hinton al NYT.
