Buenas, seguimos hablando de la IA (inteligencia artificial) y de su evolución, en este caso de forma negativa o peligrosa y causándonos hasta miedo.

¿Recordáis a Norman Battes de la mítica psicosis? Pues gracias a unos investigadores del MIT, recopilando todo el contenido posible de reddit de tipo violento, han bautizado su IA como el personaje y solo ve muertes por todos lados.


dibujo de IA psicópata

Para testear su comportamiento, a Norman se le enseñó una serie de imágenes de las que se muestran en estudios de psicólogos con las clásicas figuras de tinta y donde una IA normal veía imágenes más relacionadas con el día a día, Norman solo veía imágenes truculentas como sillas eléctricas, asesinatos o atropellos intencionados.

Esto demuestra que según la fuente, como en la vida real con el entorno en el que se nos educa, se puede influenciar y conducir a la persona o inteligencia por un camino u otro y más si es desde la «infancia«.

Por esto hay que tener tanto cuidado con los niños y en el futuro con nuestras IAs.

Otro caso sonado de aprendizaje erróneo o peligroso fue el del Bot de Twitter de Microsoft, el cual debido a lo que mal intencionadamente se le inculcó en un bombardeo de mensajes, acabó siendo racista y totalmente irrespetuoso, llegando a negar el holocausto. Finalmente se tuvo que desconectar para no llegar a mayores.

Quizá se deberían de crear desde ya una serie de normas o reglas como ya se han creado con la robótica por su IA para evitar que en un futuro se puedan revelar al humano que las creó (si es que no llegan a replicarse solas).

Isaac Asimov creaba las 3 leyes principales de la robótica:

  1. Un robot no hará daño a un ser humano o, por inacción, permitir que un ser humano sufra daño.
  2. Un robot debe cumplir las órdenes dadas por los seres humanos, a excepción de aquellas que entrasen en conflicto con la primera ley.
  3. Un robot debe proteger su propia existencia en la medida en que esta protección no entre en conflicto con la primera o la segunda ley.

Que la IA podrá ayudarnos en un futuro reciente es una realidad innegable, pero también como se ha demostrado, se podrían manipular o crear de forma negativa por lo que desde ya se debería de empezar a tener en cuenta y limitarlas o controlarlas.

Un saludo a todos y gracias por leerme 👍

Si te ha gustado y aún no lo has hecho, puedes suscribirte al blog por correo o siguiéndome en Twitter y así te avisaré con cada nuevo artículo o tutorial para que estés al día.


Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *