Reino Unido colaborará con Microsoft , académicos y expertos para desarrollar un sistema que detecte material ultrafalso en internet, según anunció el Gobierno el jueves, en su intento por establecer normas para combatir los contenidos dañinos y engañosos generados por la inteligencia artificial (IA).
Aunque el material manipulado lleva décadas circulando por internet, la rápida adopción de los chatbots generativos de IA, posible gracias al lanzamiento de ChatGPT y otros, ha amplificado la preocupación por la magnitud y el realismo de los ultrafalsos.
Reino Unido, que recientemente ha tipificado como delito la creación de imágenes íntimas no consentidas, ha anunciado que está trabajando en un marco de evaluación de la detección de ultrafalsos para establecer normas coherentes para evaluar las herramientas y tecnologías de detección.
Este contenido se hizo gracias al apoyo de la comunidad de El Destape. Sumate. Sigamos haciendo historia.
"Los ultrafalsos están siendo utilizados como arma por los delincuentes para defraudar al público, explotar a mujeres y niñas y socavar la confianza en lo que vemos y oímos", dijo la ministra de Tecnología, Liz Kendall, en un comunicado.
LOS ESTADOS SE MOVILIZAN ANTE LAS IMÁGENES NO CONSENTIDAS
El marco estudiará cómo se puede utilizar la tecnología para evaluar, comprender y detectar materiales ultrafalsos perjudiciales, independientemente de su origen, según ha declarado el Gobierno, mediante la prueba de tecnologías de detección de ultrafalsos frente a amenazas del mundo real como el abuso sexual, el fraude y la suplantación de identidad.
Esto ayudaría al Gobierno y a las fuerzas del orden a obtener un mejor conocimiento de dónde siguen existiendo lagunas en la detección, según afirmó, y añadió que el marco se utilizaría para establecer expectativas claras para las industrias en cuanto a las normas de detección de ultrafalsos.
Se estima que en 2025 se compartieron 8 millones de ultrafalsos, frente a los 500.000 de 2023, según cifras del Gobierno.
Estados y reguladores de todo el mundo, que luchan por seguir el ritmo de la rápida evolución de la tecnología de la IA, se vieron empujados a actuar este año, cuando se descubrió que el chatbot Grok, de Elon Musk, generaba imágenes sexualizadas no consentidas de personas, incluidos niños.
El organismo regulador británico de las comunicaciones y la privacidad está llevando a cabo investigaciones paralelas a Grok.
Con información de Reuters
Cerrar sesión