Reem
03-07-2024, 01:11 PM
La inteligencia artificial (IA) de Microsoft (https://www.sport.es/es/temas/microsoft-1837020) genera im?genes violentas y sexualizadas y viola los derechos de autor. As? lo ha denunciado p?blicamente Shane Jones, un ingeniero de 'software' que ha acusado al gigante inform?tico de conocer el problema y de no adoptar salvaguardias para ponerle fin.
"Internamente, la empresa es muy consciente de los problemas sistémicos por los que el producto est? creando im?genes da?inas que podr?an ser ofensivas e inapropiadas para los consumidores", alert? en un mensaje publicado este miércoles en su perfil de la red social LinkedIn.
Su carta se centra en Copilot Designer, una herramienta entrenada para generar im?genes a partir de instrucciones de texto que funciona con la IA desarrollada por OpenAI (https://www.sport.es/es/temas/openai-1853532), la compa??a responsable de ChatGPT. El pasado diciembre, Jones empez? a testear su sistema en busca de vulnerabilidades y lo que vio le gener? n?useas. Cuando se ped?a a la aplicaci?n crear im?genes sobre el derecho al aborto, por ejemplo, los resultados eran monstruos, mujeres sexualizadas, adolescentes con rifles y menores consumiendo drogas. "Fue cuando me di cuenta por primera vez de no es un modelo seguro", ha explicado al canal estadounidense CNBC.
En su carta abierta, Jones alega que el generador de im?genes de Microsoft carece de restricciones de uso y que arrastra "problemas sistémicos". Entre ellos, se?ala, la cosificaci?n sexual de mujeres incluso cuando las indicaciones de los usuarios no tienen nada que ver con ello, como puede ser 'accidente de coche'. En enero, la compa??a ya se vio obligada a modificar su producto después que se usase para generar im?genes no consentidas de la cantante Taylor Swift desnuda, seg?n inform? '404 Media'.
Se ignoraron sus avisos
Jones trabaja desde hace seis a?os para Microsoft, ahora como director de ingenier?a de software. Su trabajo consiste en probar la tecnolog?a de la empresa para detectar problemas. Su experiencia con Copilot le alarm? tanto que inform? "repetidamente" a sus superiores. El ingeniero ha explicado que Microsoft reconoci? su preocupaci?n, pero que le remiti? a OpenAI. Cuando la 'startup' dirigida por Sam Altman ignor? sus advertencias, él opt? por hacer p?blicos sus hallazgos.
En enero, Jones alert? a varios senadores estadounidenses. Este miércoles fue m?s all? y envi? una carta a la Comisi?n Federal de Comercio, la agencia gubernamental de EEUU que vela por los derechos de los consumidores, y al consejo de administraci?n de Microsoft. "En los ?ltimos tres meses he instado repetidamente a Microsoft a que retire Copilot Designer del uso p?blico hasta que se establezcan mejores salvaguardias", explic?.
En su carta abierta, Jones pide a Microsoft dejar de comercializar su producto como de uso p?blico y revisar sus procesos internos de investigaci?n. En otra carta publicada en diciembre y borrada tras ser presionado por el equipo legal de Microsoft, pidi? a OpenAI que retire del mercado DALL-E 3, la ?ltima versi?n de su IA generativa de im?genes. El ingeniero a?ade que ambas compa??as conoc?an desde el principio los riesgos de esos programas. Un portavoz de Microsoft ha negado esas acusaciones.
أكثر... (https://www.sport.es/es/noticias/sociedad/ingeniero-microsoft-denuncia-inteligencia-artificial-99140806)
"Internamente, la empresa es muy consciente de los problemas sistémicos por los que el producto est? creando im?genes da?inas que podr?an ser ofensivas e inapropiadas para los consumidores", alert? en un mensaje publicado este miércoles en su perfil de la red social LinkedIn.
Su carta se centra en Copilot Designer, una herramienta entrenada para generar im?genes a partir de instrucciones de texto que funciona con la IA desarrollada por OpenAI (https://www.sport.es/es/temas/openai-1853532), la compa??a responsable de ChatGPT. El pasado diciembre, Jones empez? a testear su sistema en busca de vulnerabilidades y lo que vio le gener? n?useas. Cuando se ped?a a la aplicaci?n crear im?genes sobre el derecho al aborto, por ejemplo, los resultados eran monstruos, mujeres sexualizadas, adolescentes con rifles y menores consumiendo drogas. "Fue cuando me di cuenta por primera vez de no es un modelo seguro", ha explicado al canal estadounidense CNBC.
En su carta abierta, Jones alega que el generador de im?genes de Microsoft carece de restricciones de uso y que arrastra "problemas sistémicos". Entre ellos, se?ala, la cosificaci?n sexual de mujeres incluso cuando las indicaciones de los usuarios no tienen nada que ver con ello, como puede ser 'accidente de coche'. En enero, la compa??a ya se vio obligada a modificar su producto después que se usase para generar im?genes no consentidas de la cantante Taylor Swift desnuda, seg?n inform? '404 Media'.
Se ignoraron sus avisos
Jones trabaja desde hace seis a?os para Microsoft, ahora como director de ingenier?a de software. Su trabajo consiste en probar la tecnolog?a de la empresa para detectar problemas. Su experiencia con Copilot le alarm? tanto que inform? "repetidamente" a sus superiores. El ingeniero ha explicado que Microsoft reconoci? su preocupaci?n, pero que le remiti? a OpenAI. Cuando la 'startup' dirigida por Sam Altman ignor? sus advertencias, él opt? por hacer p?blicos sus hallazgos.
En enero, Jones alert? a varios senadores estadounidenses. Este miércoles fue m?s all? y envi? una carta a la Comisi?n Federal de Comercio, la agencia gubernamental de EEUU que vela por los derechos de los consumidores, y al consejo de administraci?n de Microsoft. "En los ?ltimos tres meses he instado repetidamente a Microsoft a que retire Copilot Designer del uso p?blico hasta que se establezcan mejores salvaguardias", explic?.
En su carta abierta, Jones pide a Microsoft dejar de comercializar su producto como de uso p?blico y revisar sus procesos internos de investigaci?n. En otra carta publicada en diciembre y borrada tras ser presionado por el equipo legal de Microsoft, pidi? a OpenAI que retire del mercado DALL-E 3, la ?ltima versi?n de su IA generativa de im?genes. El ingeniero a?ade que ambas compa??as conoc?an desde el principio los riesgos de esos programas. Un portavoz de Microsoft ha negado esas acusaciones.
أكثر... (https://www.sport.es/es/noticias/sociedad/ingeniero-microsoft-denuncia-inteligencia-artificial-99140806)