Más de mil especialistas de diferentes áreas tecnológicas, científicas y éticas, se unieron para pedir una pausa “inmediata” de 6 meses en el vertiginoso desarrollo de la inteligencia artificial (IA). Podría representar, dicen, un riesgo para la humanidad. Entre los firmantes están el multimillonario Elon Musk y el cofundador de Apple, Steve Wozniak, junto a nombres de académicos, empresarios, directivos, ejecutivos y analistas internacionales.
El documento lleva por titulo ‘Pausar los experimentos gigantes de IA: una carta abierta’, y fue emitido por Future of Life Institute, una organización sin fines de lucro centrada en que las transformaciones tecnológicas no sean nocivas.
“Hacemos un llamado a todos los laboratorios de IA para que pausen de inmediato durante al menos 6 meses el entrenamiento de los sistemas de IA más potentes que GPT-4. Esta pausa debe ser pública y verificable, e incluir a todos los actores clave. Si tal pausa no se puede promulgar rápidamente, los gobiernos deberían intervenir e instituir una moratoria″, solicitan desde FutureLife.org.
A continuación, detallan los peligros potenciales que conllevan los sistemas de IA para el mundo. Citan efectos nocivos como la desinformación, destrucción de empleos, disrupciones económicas y políticas, e incluso el riesgo de “perder el control de la civilización”.
“Los sistemas de IA con inteligencia que compite con la humana pueden plantear riesgos profundos para la sociedad y la humanidad”, señalan, ya que su impacto no se planifica, monitoriza ni gestiona correctamente.
“La IA avanzada podría representar un cambio profundo en la historia de la vida en la Tierra, y debe planificarse y administrarse con el cuidado y los recursos correspondientes. Desafortunadamente, este nivel de planificación y gestión no está ocurriendo”, advirtieron.
En el manifiesto acusan que en los últimos meses “los laboratorios de IA entraron en una carrera desenfrenada para desarrollar e implementar mentes digitales cada vez más poderosas que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar de forma fiable”.
“Los sistemas de inteligencia artificial potentes deben desarrollarse solamente una vez que estemos seguros de que sus efectos serán positivos y sus riesgos serán manejables”, se lee en la carta.
Por ello, el grupo de expertos pide a los desarrolladores de inteligencia artificial que detengan temporalmente los nuevos avances. Esto para que expertos independientes desarrollen e implementen protocolos de seguridad compartidos para estas tecnologías.
Llaman a trabajar en conjunto con legisladores y autoridades reguladoras para establecer organismos reguladores, auditorías y sistemas de certificaciones. También deben decidir sobre quién se fincarán responsabilidades en caso de daños causados por la inteligencia artificial. Incluso menciona la posibilidad de que los gobiernos intervengan para frenar los desarrollos si no hay voluntad común.
“Las decisiones no se pueden delegar en responsables tecnológicos que no hemos elegido”, subrayan en la petición.
La carta fue un éxito: sumó 1,124 firmas en unas cuantas horas. Además de Musk y Wozniak, se encuentras nombres relevantes en la industria tecnológica: científicos, académicos, empresarios, CEOs, directivos, ejecutivos, líderes tecnológicos y expertos de diversos países.
Aparecen miembros distinguidos de instituciones de renombre, desde Harvard, Yale y toda la Ivy Leage, hasta decenas de universidades en Estados Unidos. También hay catedráticos de las principales instituciones de Francia, Suecia, Reino Unido, Canadá, Italia, España, Portugal y Bruselas, entre otras.
Entre ellos están (hasta ahora):
Sam Altman, fundador y CEO de OpenAI y responsable de ChatGPT, GPT-4, Dall-E y otras polémicas herramientas de IA, no se encuentra en la lista de firmas.
Fueron tantas las solicitudes para sumarse a la demanda virtual, que los administradores tuvieron que pausar la anexión de más firmas.
“Debido a la gran demanda, todavía estamos recolectando firmas, pero pausando su aparición en la carta para que nuestros procesos de investigación puedan ponerse al día. También tengan en cuenta que las firmas que se están cerca de la parte superior de la lista se verifican de forma independiente y directa”, informaron en su página web.
Cabe señalar que no se trata de una petición anónima, como las que abundan en internet. Para darle mayor credibilidad y evitar los votos cuestionables, los firmantes deben registrarse con datos básicos que confirmen su identidad: nombre completo, correo electrónico y profesión o cargo laboral. Sin embargo, el proceso de verificación requiere tiempo.
