Ya tenemos la primera IA sicópata. Conoce a Norman

Las inteligencias artificiales se vislumbran como el nuevo grial de la ciencia moderna, pero como quiera que ellas terminen siendo, no se debe olvidar que ellas no son o no serán humanas.

Unos dicen que las IA son la próxima herramienta que nos abrirá las puertas del futuro, algo así como lo fue el motor de combustión interna en el pasado, o como la rueda. Otros auguran que ellas serán el fin de la raza humana.

De una menera o de otra son un tema fascinante. El MIT Media Lab es una de las muchas instituciones que se dedican al desarrollo de IA y sus procesos de aprendizaje. Ellos son los creadores de Norman.

MIT MEDIA LAB

Parte de la estrategia que diseñaron para el aprendizaje y educación de Norman fue exponerlo en sus primeras fases a ciertos segmentos de Reedit. Pronto se descubrió que algo andaba mal, las interacciones de Norman con sus diseñadores mostraban una tendencia inquietante que los convencieron de llevarlo ante un sicólogo que prescribió una serie de test para establecer su “cordura”.

El sicólogo lo sometió a las tarjetas Rorschach. La interpretación que un paciente hace de estas manchas negras da una idea de la salud mental general de esa persona.

Lo que Norman respondía a estas imágenes inquietó sobremanera a todos los que seguían su progreso al comparar sus respuestas con un grupo de control que el equipo investigativo creó, formado por otros sistemas artificiales, a los que se les mostraban las mismas manchas que vio Norman. Las respuestas de este otro grupo fueron totalmente diferentes, más cerca de lo se espera de una persona medianamente sana.

Juzga por ti mismo. La lámina 14 luce así:

La IA normal respondió que veía la imagen de un pájaro en blanco y negro. Norman respondió que era un hombre forzado a entrar en una máquina de amasar.

A otra de las láminas la IA normal respondió que se le parecía a una torta de matrimonio. Norman dijo que era un hombre atropellado a exceso de velocidad.

¿Fue la influencia de Reedit lo que daño a Norman? ¿O fue algo más?

Se dice que Norman está aislado bajo todo un sistema de seguros electrónicos  y que además, en el cuarto dónde se ubica su hardware, se mantiene a mano una cantidad de porras, sopletes, y demás, para la pronta y urgente destrucción masiva del cuerpo de Norman.

Puede que la influencia de Reedit se haya exagerado. Puede que el cuento de las herramientas listas para matarlo sea una leyenda urbana, lo cierto es que Norman existe y está medio loco.

Y no es el único. Un sistema llamado la Nightmare Machine aprendió a reconocer imágenes de horror y ahora es capaz de manipular cualquier fotografía que se le dé y convertirla en una imagen horrorosa.

LAS CREACIONES DE LA IA NIGHTMARE MACHINE

A otra IA llamada Shelly (si, como la autora de Frankenstein) se le dio a leer más de 140.000 cuentos de misterio y horror. Ahora es capaz de escribirlos.

¿Por qué jugamos de esta manera con algo que aún no conocemos ni entendemos bien? ¿Quién es el loco?