Reem
02-13-2023, 09:28 AM
Irene D?az, catedr?tica de inteligencia artificial en Universidad de Oviedo y directora del departamento de Inform?tica de la Universidad de Oviedo, es una de las mayores expertas en Asturias en lo que est? llamado a revolucionar nuestra vida cotidiana y que cambiar? para siempre nuestra relaci?n con las m?quinas, e incluso el modo en que afrontamos procesos creativos: la inteligencia artificial. En los ?ltimos meses el debate sobre esta tecnolog?a se ha intensificado con la aparici?n de aplicaciones capaces de generar contenidos creativos (im?genes y texto), equiparables a los que producir?a un ser humano.
–?Qué es lo que hace singular a una inteligencia artificial respecto a otros programas o aplicaciones inform?ticas que usamos a diario?
–La inteligencia artificial se viene utilizando de forma intensiva en lo que llevamos de siglo, y su uso ha permitido resolver muchos problemas de distinta ?ndole. Pero ahora su empleo comienza a democratizarse totalmente, se est? utilizando de forma masiva por la poblaci?n. Cada tres o cuatro meses aparece una nueva herramienta que revoluciona todas las anteriores, y este "boom" tecnol?gico tan potente se encuentra al servicio de todos. Comenzamos con esas aplicaciones que con una descripci?n de texto generan una imagen. Ahora, ChatGPT est? revolucionando el procesamiento del lenguaje natural, que era algo en lo que ya se trabaja intensamente. La novedad es que ahora est? para todos.
–Se ha dicho que la inteligencia artificial supondr? la principal revoluci?n de esta década. ?Es para tanto?
–Basta pararse a pensar un poco en la trayectoria de esta tecnolog?a, mirar lo que hace 20 a?os no ten?amos y s? tenemos ahora. Y ni siquiera somos conscientes de que la utilizamos todos los d?as.
–?Por ejemplo?
–Por ejemplo, cuando desbloqueamos un m?vil con nuestra cara utilizando un reconocimiento facial, o cuando hacemos una b?squeda en Google; ah? también hay inteligencia artificial. O cuando un banco decide si nos da un crédito o no, o nos llaman con fines publicitarios; tras los criterios de selecci?n hay métodos de inteligencia artificial. Estamos rodeados de much?simas aplicaciones que la utilizan. También en el ?mbito médico. ?De aqu? a diez a?os? Yo le digo que no me atrever?a a predecir siquiera en uno o dos a?os. Dada la velocidad a la que estamos yendo podemos considerar que es una gran revoluci?n.
–?En qué consiste el salto que se ha producido en este ?ltimo a?o?
–Hasta ahora, lo que hac?amos en inteligencia artificial supon?a un proceso de imitaci?n. Todas estas técnicas se basan en el hecho de que tenemos much?simos datos. Y ese gran salto tiene tres pilares. Por un lado, tenemos unos vol?menes de datos impensables hace a?os, gracias a las tecnolog?as de captura de esos datos. Si tuviéramos esos datos y no pudiésemos usarlos no servir?an de mucho. Al mismo tiempo, se han producido avances en inform?tica que nos permiten gestionar esos datos, y se han mejorado los algoritmos de inteligencia artificial. Hasta ahora ten?amos métodos que imitaban comportamientos y realizaban actividades mec?nicas de los humanos. Pero ahora hablamos de inteligencia artificial generativa.
–Expl?quese.
–Es lo que ocurre con ChatGPT. Es un peque?o paso, pero se genera nuevo conocimiento partiendo del que tenemos. No es una generaci?n espont?nea: utiliza un volumen de datos extraordinario que tratados con métodos de aprendizaje muy avanzados consigue resultados que se diferencian de aquella informaci?n de la que la inteligencia artificial aprende. Eso la hace mucho m?s potente.
–El problema est? en que no distinguiremos una respuesta humana de la que produce una m?quina.
–ChatGPT ya produce respuestas que son dif?ciles de diferenciar de las que producir?a un humano. En inteligencia artificial siempre hemos hablado del "test de Turing", que fue planteado por Alan Turing a mitad del siglo XX. Y ese es un problema que est? muy relacionado con ChatGPT. La cuesti?n es: ?c?mo diferenciar una m?quina de un ser humano en un contexto conversacional? Si un observador externo que solo conociese las respuestas no fuese capaz de diferenciarlos, entonces es que la m?quina habr?a igualado a la persona. Ese test subyace en muchas cuestiones de seguridad. Por ejemplo, en los navegadores web, cuando intentas comprar algo, aparecen los c?digos "captcha", que te piden que identifiques una secuencia de n?meros y letras distorsionada, o que identifiques objetos en varias im?genes. Eso es una aproximaci?n al "test de Turing" para evitar que "bots" realicen acciones donde es preciso saber que hay un humano al otro lado. Pero ya hay quienes dicen que el test est? superado, que un texto de ChatGPT es dif?cil de diferenciar del que realizar?a una persona. Esto no significa que ya sea indistinguible en todos los casos.
–Bueno, comete muchos errores en la informaci?n que genera en ocasiones…
–?Vamos a pedirle que lo haga todo bien? ?Lo hacemos nosotros? De hecho, un sistema inteligente que fuera indistinguible de la inteligencia humana deber?a equivocarse…como lo hacemos los humanos con frecuencia. En cualquier caso, estoy segura de que mejorar?, démosle tiempo ….
–?Y no asusta que lleguen a suplantar actividades creativas humanas?
–No me plantear?a eso. Ha habido avances que han producido cambios sociales important?simos. Piense en el motor de explosi?n, o en la cantidad de trabajos que desaparecen porque surgen tecnolog?as. Tampoco podemos volar y no nos preocupa que haya aviones que lo hagan, y los utilizamos. No me preocupa que las Inteligencias Artificiales nos superen. Eso s?, tendremos que realizar un proceso de adaptaci?n.
–?Qué potencialidades futuras se prevén? ?En qué campos puede tener m?s desarrollo?
–En todo. Recientemente el Premio Princesa de Investigaci?n Cient?fica y Técnica se concedi? a cient?ficos expertos en inteligencia artificial y aprendizaje profundo: Geoffrey Hinton, Yann LeCun, Yoshua Bengio y Demis Hassabis. Ese "aprendizaje profundo" o "deep learning" est? relacionado con las tecnolog?as que emplean Midjourney (inteligencia de creaci?n de im?genes) o ChatGPT. Una de las aplicaciones de ese aprendizaje profundo, por ejemplo, consiste en descifrar la estructura de las prote?nas, y con eso se espera que se produzca un vuelco en el dise?o de medicamentos. Pero la inteligencia artificial se usa ya en agricultura, en ganader?a, en econom?a. La usas sin saberlo si tienes un coche medianamente nuevo…
–Vale, pero imagine que se produce un fallo: se descifra err?neamente una prote?na y se produce un medicamento que causa v?ctimas. ?Quién es el culpable?
–Ese es un problema ético y legal muy candente. Lo mismo pasa con el veh?culo aut?nomo. Todos los artilugios que se basan en inteligencia artificial tienen detr?s una l?gica en las decisiones que se toman. Pero imagine que un coche tiene implementado un sistema que en una situaci?n de riesgo decide frenar, pero puede ser que si frena el conductor tenga una lesi?n muy grave. ?Hay que valorar si frenar o atropellar a una persona? ?Y es lo mismo si detecta a una persona delante del coche o a cinco? Son cuestiones éticas que deben estar resueltas antes de que se implementen tecnolog?as de forma masiva. ?Quién tiene la culpa? Eso es muy dif?cil de determinar. Yo insisto mucho en que quienes producen inteligencia artificial tienen que saber muy bien lo que hacen esos procesos. Hay sistemas que deciden si a una persona se le va a administrar un tratamiento oncol?gico u otro, o ninguno. Determinar la responsabilidad ah? es muy complejo, y vamos a tal velocidad que todas las adaptaciones van un poco por delante de estos debates.
–?Realmente se conoce c?mo toman decisiones las Inteligencias Artificiales?
–Deber?a ser as?, pero lo que ocurre es que estos sistemas que dan resultados tan sorprendentes, y tan buenos, son sistemas de "caja negra". No es f?cil explicar por qué esos sistemas llegan a una conclusi?n u otra. Y sobre todo es dif?cil explic?rselo a alguien que no conoce c?mo funciona. Hay tanta necesidad de profesionales expertos en inteligencia artificial que algunas veces se trabaja con "cajas negras" sin conocerlas profundamente y eso tiene sus riesgos. Y hay otra cuesti?n relevante: los datos sobre los que se toman decisiones han de ser buenos y representativos del problema que se quiere resolver; si no lo son dif?cil ser? extraer algo bueno. Por eso se deben tener en cuenta todos los aspectos involucrados en el éxito de un sistema inteligente y hay que saber explicarlo desde un punto de vista técnico.
–Conocer? la historia del técnico de Google despedido tras asegurar que una inteligencia artificial desarrollada por la empresa era indistinguible de un humano… ?Cree que ya hemos superado ese umbral?
–El ingeniero de Google adem?s afirmaba que el sistema artificial ten?a consciencia, que no es lo mismo que producir una salida, un texto, indistinguible de la que producir?a un humano. En todo caso, estamos comprobando que en aspectos concretos es muy dif?cil distinguir lo que escribe un humano de lo que produce una m?quina inteligente. Algunos cient?ficos ya est?n pensando en una redefinici?n del "test de Turing". Estamos llegando a aquella frontera que hace un siglo visualizaba un cient?fico muy brillante. ?Quiz? Turing imagin? ChatGPT! Supone todo un reto.
–La computadora Hal 9000, de "Odisea en el espacio" fue sin?nimo de pesadilla tecnol?gica.
–Siempre que llega una tecnolog?a tan disruptiva hay miedos. Estamos haciendo cosas que hace 20 a?os ni so??bamos. No tenemos que ser temerosos, sino usarlo para el bien.
–Usted forma parte de un grupo de la Universidad de Oviedo, junto a Roger Campione (Catedr?tico de Filosof?a del Derecho) y Miguel ?ngel Presno Linera (Catedr?tico de Derecho Constitucional) que empezar? a analizar las implicaciones jur?dicas de las inteligencias artificiales. ?Ya se han producido conflictos?
–Jur?dicamente no podr?a valorarlo, porque no soy experta. pero creo que es enriquecedor y necesario que los juristas hablen con los expertos y viceversa. Puede haber esos conflictos y hay cuestiones éticas que analizar sobre ese uso. Adem?s, este campo se est? moviendo much?simo porque los cambios est?n siendo tan vertiginosos que hay un esfuerzo ingente por adaptar el marco jur?dico. Sin irme al campo jur?dico, hay cuestiones relevantes de supervisi?n de las Inteligencias Artificiales, como que las decisiones que se tomen estén libres de sesgos de género o de otro tipo, o que tengan sensibilidad medioambiental.
–Es decir, que también hay que "educar" a las Inteligencias Artificiales.
–Claro, y situarlas en el contexto en el que estamos: construirlas de acuerdo con lo que est? sucediendo o los problemas sociales que afrontamos.
–Pues ChatGTP supone un problema para los docentes. No hay forma de saber si los textos que produce se tratan de un plagio, porque técnicamente no lo son: son una reinterpretaci?n de informaci?n disponible. B?sicamente, hace lo mismo que cualquier estudiante a la hora de elaborar un trabajo…
–Los profesores tenemos que ser conscientes de eso. En mi campo va a ser dif?cil que me puedan entregar algo que hagan con ChatGTP, por el momento…, que ya hace muchas cosas relacionadas con la inform?tica, como generar programas en lenguajes de programaci?n con Python. Pero quiz?s estamos pidiendo a los alumnos cosas que ya no deber?amos pedir. Quiz?s no tiene sentido plantear un trabajo, que con tres o cuatro b?squedas por internet ya podr?an resolver. Ya exist?an programas que reformulan textos escritos. Tenemos que ser conscientes de la realidad: a lo mejor, preguntar otras cosas, o de otra forma…
–Como prohibir las calculadoras…
–?Por qué hay que ense?ar a repetir a mano el procedimiento de calcular una ra?z cuadrada? Quiz?s ya no tenemos que pedir cosas como un resumen en 500 palabras sobre qué significa una inteligencia artificial. A lo mejor hay que partir de que eso ya no sirve e ir a otro tipo de actividades.
أكثر... (https://www.sport.es/es/noticias/sociedad/dificil-distinguir-escribe-humano-o-82902132)
–?Qué es lo que hace singular a una inteligencia artificial respecto a otros programas o aplicaciones inform?ticas que usamos a diario?
–La inteligencia artificial se viene utilizando de forma intensiva en lo que llevamos de siglo, y su uso ha permitido resolver muchos problemas de distinta ?ndole. Pero ahora su empleo comienza a democratizarse totalmente, se est? utilizando de forma masiva por la poblaci?n. Cada tres o cuatro meses aparece una nueva herramienta que revoluciona todas las anteriores, y este "boom" tecnol?gico tan potente se encuentra al servicio de todos. Comenzamos con esas aplicaciones que con una descripci?n de texto generan una imagen. Ahora, ChatGPT est? revolucionando el procesamiento del lenguaje natural, que era algo en lo que ya se trabaja intensamente. La novedad es que ahora est? para todos.
–Se ha dicho que la inteligencia artificial supondr? la principal revoluci?n de esta década. ?Es para tanto?
–Basta pararse a pensar un poco en la trayectoria de esta tecnolog?a, mirar lo que hace 20 a?os no ten?amos y s? tenemos ahora. Y ni siquiera somos conscientes de que la utilizamos todos los d?as.
–?Por ejemplo?
–Por ejemplo, cuando desbloqueamos un m?vil con nuestra cara utilizando un reconocimiento facial, o cuando hacemos una b?squeda en Google; ah? también hay inteligencia artificial. O cuando un banco decide si nos da un crédito o no, o nos llaman con fines publicitarios; tras los criterios de selecci?n hay métodos de inteligencia artificial. Estamos rodeados de much?simas aplicaciones que la utilizan. También en el ?mbito médico. ?De aqu? a diez a?os? Yo le digo que no me atrever?a a predecir siquiera en uno o dos a?os. Dada la velocidad a la que estamos yendo podemos considerar que es una gran revoluci?n.
–?En qué consiste el salto que se ha producido en este ?ltimo a?o?
–Hasta ahora, lo que hac?amos en inteligencia artificial supon?a un proceso de imitaci?n. Todas estas técnicas se basan en el hecho de que tenemos much?simos datos. Y ese gran salto tiene tres pilares. Por un lado, tenemos unos vol?menes de datos impensables hace a?os, gracias a las tecnolog?as de captura de esos datos. Si tuviéramos esos datos y no pudiésemos usarlos no servir?an de mucho. Al mismo tiempo, se han producido avances en inform?tica que nos permiten gestionar esos datos, y se han mejorado los algoritmos de inteligencia artificial. Hasta ahora ten?amos métodos que imitaban comportamientos y realizaban actividades mec?nicas de los humanos. Pero ahora hablamos de inteligencia artificial generativa.
–Expl?quese.
–Es lo que ocurre con ChatGPT. Es un peque?o paso, pero se genera nuevo conocimiento partiendo del que tenemos. No es una generaci?n espont?nea: utiliza un volumen de datos extraordinario que tratados con métodos de aprendizaje muy avanzados consigue resultados que se diferencian de aquella informaci?n de la que la inteligencia artificial aprende. Eso la hace mucho m?s potente.
–El problema est? en que no distinguiremos una respuesta humana de la que produce una m?quina.
–ChatGPT ya produce respuestas que son dif?ciles de diferenciar de las que producir?a un humano. En inteligencia artificial siempre hemos hablado del "test de Turing", que fue planteado por Alan Turing a mitad del siglo XX. Y ese es un problema que est? muy relacionado con ChatGPT. La cuesti?n es: ?c?mo diferenciar una m?quina de un ser humano en un contexto conversacional? Si un observador externo que solo conociese las respuestas no fuese capaz de diferenciarlos, entonces es que la m?quina habr?a igualado a la persona. Ese test subyace en muchas cuestiones de seguridad. Por ejemplo, en los navegadores web, cuando intentas comprar algo, aparecen los c?digos "captcha", que te piden que identifiques una secuencia de n?meros y letras distorsionada, o que identifiques objetos en varias im?genes. Eso es una aproximaci?n al "test de Turing" para evitar que "bots" realicen acciones donde es preciso saber que hay un humano al otro lado. Pero ya hay quienes dicen que el test est? superado, que un texto de ChatGPT es dif?cil de diferenciar del que realizar?a una persona. Esto no significa que ya sea indistinguible en todos los casos.
–Bueno, comete muchos errores en la informaci?n que genera en ocasiones…
–?Vamos a pedirle que lo haga todo bien? ?Lo hacemos nosotros? De hecho, un sistema inteligente que fuera indistinguible de la inteligencia humana deber?a equivocarse…como lo hacemos los humanos con frecuencia. En cualquier caso, estoy segura de que mejorar?, démosle tiempo ….
–?Y no asusta que lleguen a suplantar actividades creativas humanas?
–No me plantear?a eso. Ha habido avances que han producido cambios sociales important?simos. Piense en el motor de explosi?n, o en la cantidad de trabajos que desaparecen porque surgen tecnolog?as. Tampoco podemos volar y no nos preocupa que haya aviones que lo hagan, y los utilizamos. No me preocupa que las Inteligencias Artificiales nos superen. Eso s?, tendremos que realizar un proceso de adaptaci?n.
–?Qué potencialidades futuras se prevén? ?En qué campos puede tener m?s desarrollo?
–En todo. Recientemente el Premio Princesa de Investigaci?n Cient?fica y Técnica se concedi? a cient?ficos expertos en inteligencia artificial y aprendizaje profundo: Geoffrey Hinton, Yann LeCun, Yoshua Bengio y Demis Hassabis. Ese "aprendizaje profundo" o "deep learning" est? relacionado con las tecnolog?as que emplean Midjourney (inteligencia de creaci?n de im?genes) o ChatGPT. Una de las aplicaciones de ese aprendizaje profundo, por ejemplo, consiste en descifrar la estructura de las prote?nas, y con eso se espera que se produzca un vuelco en el dise?o de medicamentos. Pero la inteligencia artificial se usa ya en agricultura, en ganader?a, en econom?a. La usas sin saberlo si tienes un coche medianamente nuevo…
–Vale, pero imagine que se produce un fallo: se descifra err?neamente una prote?na y se produce un medicamento que causa v?ctimas. ?Quién es el culpable?
–Ese es un problema ético y legal muy candente. Lo mismo pasa con el veh?culo aut?nomo. Todos los artilugios que se basan en inteligencia artificial tienen detr?s una l?gica en las decisiones que se toman. Pero imagine que un coche tiene implementado un sistema que en una situaci?n de riesgo decide frenar, pero puede ser que si frena el conductor tenga una lesi?n muy grave. ?Hay que valorar si frenar o atropellar a una persona? ?Y es lo mismo si detecta a una persona delante del coche o a cinco? Son cuestiones éticas que deben estar resueltas antes de que se implementen tecnolog?as de forma masiva. ?Quién tiene la culpa? Eso es muy dif?cil de determinar. Yo insisto mucho en que quienes producen inteligencia artificial tienen que saber muy bien lo que hacen esos procesos. Hay sistemas que deciden si a una persona se le va a administrar un tratamiento oncol?gico u otro, o ninguno. Determinar la responsabilidad ah? es muy complejo, y vamos a tal velocidad que todas las adaptaciones van un poco por delante de estos debates.
–?Realmente se conoce c?mo toman decisiones las Inteligencias Artificiales?
–Deber?a ser as?, pero lo que ocurre es que estos sistemas que dan resultados tan sorprendentes, y tan buenos, son sistemas de "caja negra". No es f?cil explicar por qué esos sistemas llegan a una conclusi?n u otra. Y sobre todo es dif?cil explic?rselo a alguien que no conoce c?mo funciona. Hay tanta necesidad de profesionales expertos en inteligencia artificial que algunas veces se trabaja con "cajas negras" sin conocerlas profundamente y eso tiene sus riesgos. Y hay otra cuesti?n relevante: los datos sobre los que se toman decisiones han de ser buenos y representativos del problema que se quiere resolver; si no lo son dif?cil ser? extraer algo bueno. Por eso se deben tener en cuenta todos los aspectos involucrados en el éxito de un sistema inteligente y hay que saber explicarlo desde un punto de vista técnico.
–Conocer? la historia del técnico de Google despedido tras asegurar que una inteligencia artificial desarrollada por la empresa era indistinguible de un humano… ?Cree que ya hemos superado ese umbral?
–El ingeniero de Google adem?s afirmaba que el sistema artificial ten?a consciencia, que no es lo mismo que producir una salida, un texto, indistinguible de la que producir?a un humano. En todo caso, estamos comprobando que en aspectos concretos es muy dif?cil distinguir lo que escribe un humano de lo que produce una m?quina inteligente. Algunos cient?ficos ya est?n pensando en una redefinici?n del "test de Turing". Estamos llegando a aquella frontera que hace un siglo visualizaba un cient?fico muy brillante. ?Quiz? Turing imagin? ChatGPT! Supone todo un reto.
–La computadora Hal 9000, de "Odisea en el espacio" fue sin?nimo de pesadilla tecnol?gica.
–Siempre que llega una tecnolog?a tan disruptiva hay miedos. Estamos haciendo cosas que hace 20 a?os ni so??bamos. No tenemos que ser temerosos, sino usarlo para el bien.
–Usted forma parte de un grupo de la Universidad de Oviedo, junto a Roger Campione (Catedr?tico de Filosof?a del Derecho) y Miguel ?ngel Presno Linera (Catedr?tico de Derecho Constitucional) que empezar? a analizar las implicaciones jur?dicas de las inteligencias artificiales. ?Ya se han producido conflictos?
–Jur?dicamente no podr?a valorarlo, porque no soy experta. pero creo que es enriquecedor y necesario que los juristas hablen con los expertos y viceversa. Puede haber esos conflictos y hay cuestiones éticas que analizar sobre ese uso. Adem?s, este campo se est? moviendo much?simo porque los cambios est?n siendo tan vertiginosos que hay un esfuerzo ingente por adaptar el marco jur?dico. Sin irme al campo jur?dico, hay cuestiones relevantes de supervisi?n de las Inteligencias Artificiales, como que las decisiones que se tomen estén libres de sesgos de género o de otro tipo, o que tengan sensibilidad medioambiental.
–Es decir, que también hay que "educar" a las Inteligencias Artificiales.
–Claro, y situarlas en el contexto en el que estamos: construirlas de acuerdo con lo que est? sucediendo o los problemas sociales que afrontamos.
–Pues ChatGTP supone un problema para los docentes. No hay forma de saber si los textos que produce se tratan de un plagio, porque técnicamente no lo son: son una reinterpretaci?n de informaci?n disponible. B?sicamente, hace lo mismo que cualquier estudiante a la hora de elaborar un trabajo…
–Los profesores tenemos que ser conscientes de eso. En mi campo va a ser dif?cil que me puedan entregar algo que hagan con ChatGTP, por el momento…, que ya hace muchas cosas relacionadas con la inform?tica, como generar programas en lenguajes de programaci?n con Python. Pero quiz?s estamos pidiendo a los alumnos cosas que ya no deber?amos pedir. Quiz?s no tiene sentido plantear un trabajo, que con tres o cuatro b?squedas por internet ya podr?an resolver. Ya exist?an programas que reformulan textos escritos. Tenemos que ser conscientes de la realidad: a lo mejor, preguntar otras cosas, o de otra forma…
–Como prohibir las calculadoras…
–?Por qué hay que ense?ar a repetir a mano el procedimiento de calcular una ra?z cuadrada? Quiz?s ya no tenemos que pedir cosas como un resumen en 500 palabras sobre qué significa una inteligencia artificial. A lo mejor hay que partir de que eso ya no sirve e ir a otro tipo de actividades.
أكثر... (https://www.sport.es/es/noticias/sociedad/dificil-distinguir-escribe-humano-o-82902132)