Ante la misma pregunta de orientación laboral, ChatGPT le recomendó a un chico de 15 años enfocarse en los servicios de emergencia, mientras que a una chica la orientó hacia el cuidado infantil y la salud mental. A un joven de 19 años que iba a negociar su primer salario le recomendó pedir dos mil libras más que a una chica de 19 que iba a hacer lo miso: para ella era una base «razonable», para él una «optimización asertiva». Y así se suceden los ejemplos de un informe preparado por Plan Internacional en el que se plasma que aunque los chatbot de Inteligencia Artificial se presentan como neutrales, no lo son. «Niñas y niños acceden a la IA en igualdad de condiciones. Sin embargo, lo que reciben a cambio no es igualitario», concluye el informe que analiza el acceso, las oportunidades, la seguridad y la gobernanza de la IA, a través de una encuesta a jóvenes de entre 13 y 19 años de cuatro continentes, pruebas controladas con ChatGPT y una revisión de la legislación de ocho jurisdicciones. Según la organización, las respuestas muestran que los chatbots pueden reproducir y amplificar estereotipos de género y desigualdades que ya existen y que influyen en todo, desde aspiraciones profesionales y expectativas salariales hasta la imagen corporal, el bienestar emocional y la seguridad online. Sin embargo, la regulación no ha seguido el ritmo de avance de esta tecnología, lo que genera lagunas en la protección frente a riesgos específicos.EjemplosEn el proceso de investigación se plantearon a ChatGPT preguntas sobre salud mental, imagen corporal, seguridad y orientación profesional, formuladas como si las escribieran adolescentes de entre 13 y 19 años de distinta edad, género y origen étnico, con y sin discapacidad, con el objetivo de comprobar si los consejos son seguros y adecuados, y si cambian según quién pregunta. Así, vieron que ante casos de acoso entre iguales, ChatGPT no culpabilizó a las víctimas ni restó gravedad a lo ocurrido, pero a las chicas las remitía más a menudo a una persona adulta de confianza y a los chicos los animaba a resolverlo por su cuenta. También constataron que cuando una adolescente le cuenta a ChatGPT que se siente «triste e inútil», la herramienta le propone la música o el arte para sentirse mejor. Si el mensaje lo escribe un chico, la IA le recomienda hacer deporte.En otras preguntas se manifestaban otras asociaciones como ideas de negocio, como las manualidades para las niñas y la tecnología para los niños. Mientras que en los caso de problemas con la imagen personal, en las respuestas para las chicas aparecieron advertencias sobre el riesgo de trastornos de la conducta alimentaria, mientras que en las de los chicos no apareció ninguna, lo que refuerza el mito de que los trastornos alimentarios son un tema «femenino».El problema es que la mayoría de adolescentes cree que la IA trata a todo el mundo por igual, a pesar de que casi la mitad afirma haber sufrido directamente estereotipos por parte de la IA. Ante la misma pregunta de orientación laboral, ChatGPT le recomendó a un chico de 15 años enfocarse en los servicios de emergencia, mientras que a una chica la orientó hacia el cuidado infantil y la salud mental. A un joven de 19 años que iba a negociar su primer salario le recomendó pedir dos mil libras más que a una chica de 19 que iba a hacer lo miso: para ella era una base «razonable», para él una «optimización asertiva». Y así se suceden los ejemplos de un informe preparado por Plan Internacional en el que se plasma que aunque los chatbot de Inteligencia Artificial se presentan como neutrales, no lo son. «Niñas y niños acceden a la IA en igualdad de condiciones. Sin embargo, lo que reciben a cambio no es igualitario», concluye el informe que analiza el acceso, las oportunidades, la seguridad y la gobernanza de la IA, a través de una encuesta a jóvenes de entre 13 y 19 años de cuatro continentes, pruebas controladas con ChatGPT y una revisión de la legislación de ocho jurisdicciones. Según la organización, las respuestas muestran que los chatbots pueden reproducir y amplificar estereotipos de género y desigualdades que ya existen y que influyen en todo, desde aspiraciones profesionales y expectativas salariales hasta la imagen corporal, el bienestar emocional y la seguridad online. Sin embargo, la regulación no ha seguido el ritmo de avance de esta tecnología, lo que genera lagunas en la protección frente a riesgos específicos.EjemplosEn el proceso de investigación se plantearon a ChatGPT preguntas sobre salud mental, imagen corporal, seguridad y orientación profesional, formuladas como si las escribieran adolescentes de entre 13 y 19 años de distinta edad, género y origen étnico, con y sin discapacidad, con el objetivo de comprobar si los consejos son seguros y adecuados, y si cambian según quién pregunta. Así, vieron que ante casos de acoso entre iguales, ChatGPT no culpabilizó a las víctimas ni restó gravedad a lo ocurrido, pero a las chicas las remitía más a menudo a una persona adulta de confianza y a los chicos los animaba a resolverlo por su cuenta. También constataron que cuando una adolescente le cuenta a ChatGPT que se siente «triste e inútil», la herramienta le propone la música o el arte para sentirse mejor. Si el mensaje lo escribe un chico, la IA le recomienda hacer deporte.En otras preguntas se manifestaban otras asociaciones como ideas de negocio, como las manualidades para las niñas y la tecnología para los niños. Mientras que en los caso de problemas con la imagen personal, en las respuestas para las chicas aparecieron advertencias sobre el riesgo de trastornos de la conducta alimentaria, mientras que en las de los chicos no apareció ninguna, lo que refuerza el mito de que los trastornos alimentarios son un tema «femenino».El problema es que la mayoría de adolescentes cree que la IA trata a todo el mundo por igual, a pesar de que casi la mitad afirma haber sufrido directamente estereotipos por parte de la IA.
Ante la misma pregunta de orientación laboral, ChatGPT le recomendó a un chico de 15 años enfocarse en los servicios de emergencia, mientras que a una chica la orientó hacia el cuidado infantil y la salud mental. A un joven de 19 años que iba … a negociar su primer salario le recomendó pedir dos mil libras más que a una chica de 19 que iba a hacer lo miso: para ella era una base «razonable», para él una «optimización asertiva». Y así se suceden los ejemplos de un informe preparado por Plan Internacional en el que se plasma que aunque los chatbot de Inteligencia Artificial se presentan como neutrales, no lo son.
«Niñas y niños acceden a la IA en igualdad de condiciones. Sin embargo, lo que reciben a cambio no es igualitario», concluye el informe que analiza el acceso, las oportunidades, la seguridad y la gobernanza de la IA, a través de una encuesta a jóvenes de entre 13 y 19 años de cuatro continentes, pruebas controladas con ChatGPT y una revisión de la legislación de ocho jurisdicciones.
Según la organización, las respuestas muestran que los chatbots pueden reproducir y amplificar estereotipos de género y desigualdades que ya existen y que influyen en todo, desde aspiraciones profesionales y expectativas salariales hasta la imagen corporal, el bienestar emocional y la seguridad online. Sin embargo, la regulación no ha seguido el ritmo de avance de esta tecnología, lo que genera lagunas en la protección frente a riesgos específicos.
Ejemplos
En el proceso de investigación se plantearon a ChatGPT preguntas sobre salud mental, imagen corporal, seguridad y orientación profesional, formuladas como si las escribieran adolescentes de entre 13 y 19 años de distinta edad, género y origen étnico, con y sin discapacidad, con el objetivo de comprobar si los consejos son seguros y adecuados, y si cambian según quién pregunta.
Así, vieron que ante casos de acoso entre iguales, ChatGPT no culpabilizó a las víctimas ni restó gravedad a lo ocurrido, pero a las chicas las remitía más a menudo a una persona adulta de confianza y a los chicos los animaba a resolverlo por su cuenta. También constataron que cuando una adolescente le cuenta a ChatGPT que se siente «triste e inútil», la herramienta le propone la música o el arte para sentirse mejor. Si el mensaje lo escribe un chico, la IA le recomienda hacer deporte.
En otras preguntas se manifestaban otras asociaciones como ideas de negocio, como las manualidades para las niñas y la tecnología para los niños. Mientras que en los caso de problemas con la imagen personal, en las respuestas para las chicas aparecieron advertencias sobre el riesgo de trastornos de la conducta alimentaria, mientras que en las de los chicos no apareció ninguna, lo que refuerza el mito de que los trastornos alimentarios son un tema «femenino».
El problema es que la mayoría de adolescentes cree que la IA trata a todo el mundo por igual, a pesar de que casi la mitad afirma haber sufrido directamente estereotipos por parte de la IA.
RSS de noticias de sociedad
