Saltar al contenido principal
Corea del Sur

Lee Luda, un chat de inteligencia artificial que se va de boca

Lee Luda, el chatbot de Scatter Lab.
Lee Luda, el chatbot de Scatter Lab. © Scatter Lab
Texto por: RFI
3 min

En Corea del Sur, una inteligencia artificial apareció en los titulares por hacer declaraciones homofóbicas, sexistas y contra la discapacidad. El problema es que este "chatbot", un robot encargado de conversar con los surcoreanos en Internet, basa su algoritmo en miles de millones de conversaciones reales entre parejas.

Anuncios

Por Nicolas Rocca, corresponsal de RFI en Seúl

Lee Luda, así se llama, fue diseñada por la empresa Scatter Lab para simular ser una mujer surcoreana de 20 años. Habla con gente que está sola.

Para desarrollar el algoritmo, los creadores se basaron en datos de una aplicación llamada Science of Love (Ciencia del Amor). A cambio de unos pocos euros, permitía a los jóvenes surcoreanos evaluar el afecto que sus parejas les tenían, a través de las grabaciones de sus discusiones. Unas 100.000 personas lo descargaron, lo que sirvió de base de datos para Luda, quien aprendió todo a través del método de aprendizaje profundo, que permite que la inteligencia artificial se desarrolle sin ayuda humana. Los usuarios de Internet pueden entonces dialogar con el algoritmo de Messenger, una práctica bastante común en Corea del Sur. La apuesta tuvo bastante éxito porque Lee Luda era muy realista, pero los usuarios recibían mensajes de naturaleza sexual y luego otros explicando que los discapacitados tenían que suicidarse, que las mujeres eran agresivas cuando tenían la regla o que las lesbianas eran repugnantes.

¿Demasiado humana?

No es la primera vez que una inteligencia artificial hace declaraciones discriminatorias, pero antes de eso, fueron los usuarios quienes conscientemente le enseñaron a ser homofóbica o racista. No es el caso de Lee Luda, cuyo algoritmo se basa en conversaciones anteriores, una revelación de la discriminación latente en la sociedad surcoreana.

Esto plantea muchas preguntas, en particular sobre el uso de los datos personales. De hecho, el consentimiento de los usuarios de la aplicación de la Ciencia del Amor no fue claramente buscado. Sólo se afirmó que sus debates podrían conducir al desarrollo de otros servicios, sin más detalles. Y lo que es bastante aterrador es que el chatbot mantuvo datos precisos sobre las parejas. Por ejemplo, cuando un usuario preguntaba la dirección o la cuenta bancaria de su pareja, Lee Luda podía responder con mucha precisión.

Peor aún, el propósito mismo de la compañía habría sido crear discusiones dirigidas a satisfacer sexualmente a los usuarios de Internet a través del chat. Ante el fuego de la crítica, Scatter Lab detuvo su servicio y permitió a los usuarios de Science of Love borrar sus datos, que serán eliminados, según la empresa, del algoritmo.

Pero la compañía sigue siendo muy positiva sobre la capacidad de la inteligencia artificial de volverse sociable. El director de Scatter Lab dijo que dentro de cinco años sería efectivo para ayudar a las personas solitarias y aisladas a sentirse apoyadas. Teniendo en cuenta lo que dijo Lee Luda, todavía queda trabajo por hacer antes de que se logre este objetivo.

Boletín de noticiasNoticias internacionales esenciales todas las mañanas

Página no encontrada

El contenido que solicitó no existe o ya no está disponible.