En la era digital, la Inteligencia Artificial (IA) ha demostrado ser una herramienta poderosa con aplicaciones que abarcan desde la medicina hasta la educación. Esto es imparable y cada día aparecerán nuevas aplicaciones y posibilidades.
En un artículo anterior invocaba a los maestros y padres de familia a no asustarse por el proceso de digitalización que venimos observando y viviendo. Sin embargo, hay que reconocer que el uso inapropiado y malintencionado de las aplicaciones de la IA, plantea serios riesgos: abundancia de información sin fuentes fidedignas o confiables, delitos y fraudes digitales y especialmente en el contexto escolar el acoso sexual bajo diferentes matices. Recientes casos en Estados Unidos, España y Perú han puesto de manifiesto una preocupante tendencia donde adolescentes utilizan la IA para crear imágenes falsas de desnudos de sus compañeras de estudios, desencadenando una epidemia de desnudos falsos en entornos educativos.
El Impacto del Acoso Sexual con IA en las Escuelas
El acoso sexual mediante la manipulación de imágenes generadas por IA no solo viola la privacidad y la dignidad de las víctimas, sino que también tiene consecuencias devastadoras en su bienestar emocional, social y académico. Estas acciones no solo afectan a las víctimas directas, sino que también crean un ambiente tóxico y de desconfianza en las instituciones educativas.
Es fundamental que las escuelas, los padres, los profesores y la sociedad en su conjunto tomen medidas en contra de este tipo de comportamientos. La educación en ética digital, el fomento de la empatía y el respeto, así como la implementación de políticas claras y protocolos de actuación son clave para prevenir y abordar el acoso sexual con IA en las escuelas.
Responsabilidad de padres, maestros y de los propios estudiantes
Las tecnologías deben ser utilizadas de manera ética y responsable, garantizando la protección de los derechos y la integridad de los estudiantes. Y aunque esto pueda resultar difícil se hace por tanto más urgente desarrollar políticas de alfabetización digital e informacional a todo nivel, en donde el factor ético juegue un papel fundamental y tanto, padres, maestros como los propios estudiantes asuman su responsabilidad.
Ello debe expresarse en protocolos que contemplen acciones como la sensibilización ante situaciones de acoso sexual, la definición clara de conceptos como el acoso sexual y por razón de sexo, la identificación de grupos más vulnerables, la prevención de estas conductas, la implementación de códigos de conducta, la presentación de denuncias, la tipificación de faltas y sanciones, la política de formación, la divulgación de información, la evaluación y seguimiento, entre otras medidas.
La necesidad de alfabetización digital e informacional
Además, se debe promover la inclusión de contenidos formativos en planes de estudios para sensibilizar a los estudiantes sobre estas problemáticas y enseñarles el manejo de estos recursos de manera apropiada.
Para el caso del acoso sexual, se deben establecer procedimientos específicos de prevención, atención a denuncias y reclamaciones, así como medidas de apoyo a las víctimas. Estas acciones podrían garantizar un entorno escolar seguro y respetuoso, protegiendo a los estudiantes de posibles situaciones de acoso sexual facilitadas por el uso indebido de la IA.
PD. Pueden ver un caso particular en https://dnyuz.com/2024/04/08/teen-girls-confront-an-epidemic-of-deepfake-nudes-in-schools/
Santiago Carpio.
DOCTOR EN COMUNICACIONES de la Universidad Autónoma de Barcelona. Consultor – especialista en estrategias de comunicación, habilidades socioemocionales y producción audiovisual. Expositor y promotor del storytelling para la educación y el marketing. Docente PUCP, CENTRUM. Profesor Referente U. Continental. Docente UPN. Director de Proyectos e Innovación Educativa, Escuela Superior Toulouse Lautrec. Ex Presidente del Comité de Ética de la Sociedad Nacional de Radio y Televisión. Ex DIRCOM de la Oficina General de Comunicaciones del MINEDU.