Mucho se ha debatido sobre el papel de la tecnología y cómo ésta puede poner en riesgo a los usuarios, especialmente a los menores de edad; sin embargo, son diferentes las industrias que están recurriendo a estas innovaciones para la protección de los niños. El más reciente caso es el uso de un chatbot en la plataforma Pornhub en Reino Unido.
El sitio web perteneciente a Aylo, compañía dedicada principalmente a la pornografía en línea, recurrió a una herramienta de Inteligencia Artificial llamada reThink, desarrollada por Internet de Watch Foundation (IWF) para impedir que los usuarios accedan a Material de abuso sexual de niños, niñas y adolescentes (CSAM por sus siglas en inglés: Child Sexual Abuse Materials).
La asociación ha reportado que en un periodo aproximado de dos años de su implementación, se han frustrado más de 4.4 millones de intentos de acceder a contenido ilegal relacionado con maltrato infantil.
Teniendo como objetivo la prevención del abuso infantil, IWF se alió con Aylo y Lucy Faithfull Foundation, para crear un chat de inteligencia artificial que impide el acceso a contenido ilegal que promueva el acoso sexual a menores en el portal de Pornhub en territorio británico.
Para lograrlo, el sitio web para adultos cuenta con un listado de más de 34,000 términos prohibidos, y si un usuario teclea alguno de ellos, se efectúa el bloqueo a su búsqueda.
Conscientes de que no es suficiente denegar el acceso sino que es necesario ir más allá, el chatbot en Pornhub emite también un mensaje que les hace ver lo incorrecto e ilícito de su solicitud. Esta herramienta también invita a los usuarios a analizar su comportamiento y les ofrece asistencia psicológica por medio de la organización Stop It Now!
Desde la activación de reThink, 1,656 usuarios mostraron interés en los servicios de Stop It Now!, lo que esperanza a los involucrados de que hay personas con el deseo de cambiar y, por lo tanto, de contribuir a erradicar esta problemática.
También, se reportó una disminución en el número de búsquedas ilegales, lo cual habla de cómo esta estrategia está desalentando a los internautas a perpetuar este tipo de comportamientos que afectan a miles de menores de edad en todo el mundo.
Tras este ejercicio, los especialistas confían en que sean cada vez más las plataformas digitales, dedicadas o no a la pornografía, que se sumen a utilizar este tipo de innovadoras herramientas para que no continúe circulando el CSAM en la red.
Los resultados positivos de esta prueba en el Reino Unido podrían sentar un precedente para reforzar el compromiso global con la prevención del abuso infantil y la protección de los más vulnerables.
Con la implementación de esta herramienta basada en inteligencia artificial, se están dando pasos significativos en la lucha por un internet más seguro y una sociedad más protegida. Además, el sitio web para adultos refuerza su compromiso para ir eliminando ese tipo de materiales.
