Los sistemas de aprendizaje automático de máquinas (machine learning) se cuelan cada vez más en la vida cotidiana, desafiando los valores morales y sociales y las normas que los rigen.
Hoy en día, los asistentes virtuales amenazan la intimidad del hogar; los sistemas de recomendación de noticias modelan la manera en que entendemos el mundo; los algoritmos de predicción de riesgo aconsejan a los trabajadores sociales a qué niños proteger de abusos; mientras que las herramientas de contratación basadas en el procesamiento de datos clasifican las posibilidades de conseguir un trabajo. Sin embargo, la ética del aprendizaje automático sigue siendo un ámbito difuso.
Llama la atención el caso de Joshua Barbeau, un hombre de 33 años que utilizó un sitio web llamado Project December para crear un robot conversacional –un chatbot– que simulara una conversación con su prometida, Jessica, fallecida a causa de una enfermedad rara. Conocido como “deadbot”, este permitía a Barbeau intercambiar mensajes de texto con una “Jessica” artificial.
Project December fue creado por el desarrollador de videojuegos Jason Rohrer para permitir a la gente diseñar chatbots con las personas que quieran interactuar, siempre que paguen. El proyecto se construyó a partir de una API de GPT-3, modelo de lenguaje que permite generar texto de forma automática, de la empresa de investigación OpenAI.
