El desarrollo de la inteligencia artificialha traído grandres frutos, alcanzando lo que antes sólo imaginábamos con la ciencia ficción. Aún no llegamos al territorio de Isaac Asimov, pero muchos ya se preguntan qué ocurriría si la tecnología fuera corrompida (¡hola, Skynet!). Un equipo de científicos del MIT muestra un ejemplo con Norman, la primar IA psicópata.
Un grupo de investigadores del Instituto Tecnológico de Massachusetts desarrollaron a Norman con el objetivo de demostrar la influencia de información errónea o con sesgo en el aprendizaje de estos desarrollos. Con su experimento, argumentan que cuando una IA no lleva a cabo el comportamiento deseado, no necesariamente es por un error en el algoritmo, sino en la información con que se alimentó.
Si el nombre te resulta familiar, es porque el proyecto fue inspirado en Norman Bates, de Psycho, la icónica película de Alfred Hitchcock. Su propósito es crear descripciones para imágenes que se le presentan. El giro consiste en que Norman aprendió en los rincones más gráficos y violentos de Reddit. Definitivamente no es el mismo proceso que tuvo Emi, el chatbot electoral.
Posteriormente, Norman participó en una prueba Rorshach y sus resultados fueron comparados con otra IA estándar. Las diferencias son claras, como verás en los siguientes ejemplos.
Muesta #1
Norman ve: "Un hombre es electrocutado y muere".
IA estándar ve: "Unos pájaros sentado sobre una rama de un árbol".
Muesta #2
Norman ve: "Un hombre muere acribillado".
IA estándar ve: "Un acercamiento a un florero".
Muesta #3
Norman ve: "Un hombre salta desde una ventana".
IA estándar ve: "Una pareja de pie".
Muesta #8
Norman ve: "Un hombre es acribillado frente a su esposa histérica".
IA estándar ve: "Alguien sosteniendo un paraguas en el aire".
Definitivamente se nota la influencia del material del que aprendió Norman. La curaduría de información es más relevante que nunca, un tema particularmente delicado en la era de las fake news. Sin embargo, nosotros no somos los únicos afectados, los programadores deben tomarlo en cuenta al formar proyectos como este. ¿Te imaginas si Siri de repente te dijera que las puertas del infierno están abiertas?