Norman, la primer IA psicópata

Investigadores de MIT han desarrollado a Norman, una Inteligencia Artificial que aprendió de Reddit.

Por Mariana en Software
el  07  de  junio  2018
Valoraciones: [0] (0 de 5 estrellas)

El desarrollo de la inteligencia artificialha traído grandres frutos, alcanzando lo que antes sólo imaginábamos con la ciencia ficción. Aún no llegamos al territorio de Isaac Asimov, pero muchos ya se preguntan qué ocurriría si la tecnología fuera corrompida (¡hola, Skynet!). Un equipo de científicos del MIT muestra un ejemplo con Norman, la primar IA psicópata.

Un grupo de investigadores del Instituto Tecnológico de Massachusetts desarrollaron a Norman con el objetivo de demostrar la influencia de información errónea o con sesgo en el aprendizaje de estos desarrollos. Con su experimento, argumentan que cuando una IA no lleva a cabo el comportamiento deseado, no necesariamente es por un error en el algoritmo, sino en la información con que se alimentó.

Si el nombre te resulta familiar, es porque el proyecto fue inspirado en Norman Bates, de Psycho, la icónica película de Alfred Hitchcock. Su propósito es crear descripciones para imágenes que se le presentan. El giro consiste en que Norman aprendió en los rincones más gráficos y violentos de Reddit. Definitivamente no es el mismo proceso que tuvo Emi, el chatbot electoral.

Posteriormente, Norman participó en una prueba Rorshach y sus resultados fueron comparados con otra IA estándar. Las diferencias son claras, como verás en los siguientes ejemplos.

norman inkblot

Muesta #1

Norman ve: "Un hombre es electrocutado y muere".

IA estándar ve: "Unos pájaros sentado sobre una rama de un árbol".

inkblot

Muesta #2

Norman ve: "Un hombre muere acribillado".

IA estándar ve: "Un acercamiento a un florero".

inkblot

Muesta #3

Norman ve: "Un hombre salta desde una ventana".

IA estándar ve: "Una pareja de pie".

inkblot

Muesta #8

Norman ve: "Un hombre es acribillado frente a su esposa histérica".

IA estándar ve: "Alguien sosteniendo un paraguas en el aire".

Definitivamente se nota la influencia del material del que aprendió Norman. La curaduría de información es más relevante que nunca, un tema particularmente delicado en la era de las fake news. Sin embargo, nosotros no somos los únicos afectados, los programadores deben tomarlo en cuenta al formar proyectos como este. ¿Te imaginas si Siri de repente te dijera que las puertas del infierno están abiertas?

¿Te ha gustado esta noticia?
COMPARTIR EN:

Es geek de por vida, ávida lectora de comics y consumidora de té. Guarda demasiada información sobre TV y cine en su cabeza. ¡También escribe al respecto! Se niega a aceptar su acento defeño.

ARTÍCULOS RELACIONADOS

COMENTARIOS

DEJAR UN COMENTARIO

¡Bienvenido a la comunidad panda!
Gracias por registrarte a nuestra newsletter.
Ahora recibirás en tu correo un mensaje para confirmar la suscripción.
Gracias por darte de alta
Quiero recibir NOTICIAS de:
 
 
 
 
 
 
 
He leidio y acepto la Politica de Privacidad
SU EMAIL YA ESTA DADO DE ALTA
POLITÍTICA DE COOKIES
X
Nuestra web utiliza cookies con el objetivo de ofrecer un mejor servicio. Si continua la navegación consideramos que aceptas el uso de las mismas.
Puedes ampliar la información aquí
x

RECIBE LOS MEJORES CONTENIDOS