El chatbot basado en una víctima de asesinato adolescente crea más problemas para la IA de los personajes

En respuesta a las quejas, la red de chatbot Character AI eliminó el miércoles un bot que se parecía a una joven víctima de asesinato.

Character AI, que se lanzará en 2022 en medio del creciente entusiasmo por la IA generativa, permite a los usuarios crear e interactuar con personajes basados ​​en IA. Aunque la mayoría de estos personajes son personajes ficticios, varios chatbots se basan en celebridades y personalidades reales, incluida la artista Nicki Minaj, el director ejecutivo de SpaceX, Elon Musk, y el expresidente de Estados Unidos, Donald Trump.

Un anónimo que se hace llamar “JustinAyers1” creó el chatbot “JenniferAnn Crecente AI” y lo describió como un “personaje de IA amigable y conocedor que puede proporcionar información sobre una amplia gama de temas, incluidos videojuegos, tecnología y cultura pop”. » También publicó en línea una foto de la niña muerta para dejar claro a quién se dirigía.

Brian Crecente, tío de Jennifer, además de fundador de Kotaku y cofundador de Polygon, dos sitios de juegos, fue informado de la existencia del bot a través de una alerta de Google. Enfurecido, se quejó ante el podio y tuiteó sobre esto: “La IA del personaje utiliza a mi sobrina asesinada como la cara de una IA de videojuego sin el permiso de su padre”, escribió Crecente en Blue Sky y Twitter. “Él está muy molesto en este momento. No puedo imaginar por lo que está pasando.

Jennifer Crecente fue asesinada a tiros en febrero de 2006. Justin Crabbe, su novio en ese momento, se declaró culpable de matarla. afirmando que era parte de un pacto de suicidio y asesinato. Sin embargo, los abogados cuestionaron esta afirmación y Crabbe cumple una condena de 35 años de prisión. Es elegible para obtener libertad condicional a finales de este año.

A pesar de la similitud entre el nombre del creador del bot y el del asesino, Brian Crecente dijo que dudaba que el bot fuera creado por un jugador enojado que intentaba trolearlo.

“No creo que tenga nada que ver conmigo”, dijo. Descifrar. “Mi hermano dirige una organización benéfica en nombre de Jen y parte de esa organización benéfica es crear juegos para el bien. Quizás por eso unía a los dos. No estoy seguro.”

Después de que él y Jennifer Ann’s Group, una organización sin fines de lucro destinada a combatir la violencia en las citas entre adolescentes, se quejaron ante Character AI y una investigación de DescifrarEl personaje AI eliminó el chatbot. También parece haber suspendido la cuenta del creador.

“Character.AI tiene políticas contra la suplantación de identidad, y el personaje que usa el nombre de Sra. Crecente viola nuestras políticas”, dijo un portavoz de Character.AI. Descifrar. “Lo eliminaremos de inmediato y revisaremos si se justifican acciones adicionales”.

Esta no es la primera vez que la plataforma es atacada. En mayo, la familia de la leyenda de las carreras de F1, Michael Schumacher, ganó su demanda contra el semanario alemán Die Aktuelle, que utilizó la plataforma Character AI para crear una “entrevista” con el campeón.