Inteligencia artificial: los colegios porteños deberán aplicar un protocolo contra la violencia digital

La medida se da en el marco de casos crecientes de acoso digital por imágenes creadas con inteligencia artificial por estudiantes.

10 de diciembre, 2024 | 20.55

El Ministerio de Educación de la Ciudad de Buenos Aires difundió un protocolo que deberán implementar las escuelas públicas y privadas para prevenir el ciberacoso y la divulgación de contenido íntimo en Internet. Esta resolución se da en el marco de un incremento de casos de acoso virtual a adolescentes, con múltiples situaciones de deepfakes creadas con inteligencia artificial y difundidas en el ámbito escolar.

La medida, que entró en vigencia este lunes tras ser publicada en el Boletín Oficial, apunta a que todas estas conductas pueden tener consecuencias emocionales, psicológicas, sociales y legales en las personas que las padecen. Según sostiene el protocolo, los establecimientos deberán llevar a cabo un registro detallado de la situación sobre las intervenciones realizadas y los testimonios de los alumnos involucrados. A su vez, resalta que la Supervisión tendrá que dar aviso al Ministerio Público Tutelar para que, en el caso que corresponda, tome cartas en el asunto de su competencia en el marco del Programa de Convivencia Respetuosa Entre Pares, al tiempo que también deberán intervenir los equipos técnicos según la modalidad, el nivel y tipo de gestión.

Por otro lado, el protocolo recalca la importancia de entrevistar por separado a las familias de los estudiantes para informarles sobre lo ocurrido y las acciones que aplicará el colegio. Además, habrá que analizar si la acción o conducta desarrollada amerita una acción restaurativa para los estudiantes involucrados conforme lo previsto en el Sistema Escolar de Convivencia y en el Proyecto Escuela.

Las autoridades trabajarán desde los espacios de participación haciendo hincapié en el buen uso de las redes sociales e Internet, en el respeto a la intimidad y en la noción de lo público y lo privado. Se conformarán espacios de reflexión que permitan generar acuerdos y compromisos para una mejor convivencia. Asimismo, se dará intervención al Consejo de Derechos de las Niños, Niñas y Adolescentes, cuando en el caso concreto se presuma o se verifique una situación de vulneración de derechos.

Además, las familias de los alumnos podrán recibir asesoramiento que hayan resultado víctimas de un hecho de violencia digital sobre los canales de comunicación con la Unidad Fiscal Especializada en Delitos y Contravenciones Informáticas de la ciudad.

Los casos más recientes

A fines de octubre, se conoció el caso de alumnos de una escuela secundaria en Chaco que fueron denunciados por la venta de fotos de compañeras desnudas creadas con inteligencia artificial. Los menores ofrecían las imágenes de las adolescentes por WhatsApp y Telegram y hay temor por el incremento de casos de esta índole en todo el país. Ante la viralización del caso, los padres de los acusados se presentaron en la escuela y manifestaron ponerse a disposición para poder ayudar a resolver la situación. Caso contrario es el de los padres de las víctimas, quienes manifestaron temor por la situación vivida y pidieron algún tipo de medida contra los estudiantes. La respuesta por parte de la institución no fue la esperada ya que las autoridades detallaron que no habrá ninguna sanción al comprobarse que "los hechos sucedieron fuera de la institución y por fuera del horario escolar".

Una semana antes de esa situación, se viralizó la noticia de un adolescente de 15 años vendió fotos de al menos 22 compañeras del colegio desnudas, creadas con IA, en San Martín. El alumno del colegio Agustiniano en San Martín, a través de la IA, modificó las fotos que sus compañeras subían a sus redes sociales, las desnudó con tecnología y luego las vendió de manera privada.