Un pionero en inteligencia artificial (IA) que expresó los riesgos de IA lanzó una organización sin fines de lucro centrada en el desarrollo de sistemas de IA seguros.
Yoshua Bengio – ¿Quién ganó el premio Turing con el ganador Nobel? Geoffrey Hinton Y Meta Científico jefe de AI Yann Lecun – Martes 3 de junio Lawzeroque es una organización de investigación sobre seguridad de IA.
Tiene $ 30 millones en fondos Y use más de una docena de investigadores, según The Guardian. Sus donantes incluyen el Instituto del Futuro de la Vida, Skype Cofundador Jaan Tallin y vieja silla de Google Eric SchmidtOrganización de investigación, Schmidt Sciences.
Lawzero se lanzó “en respuesta a la evidencia de que los modelos de IA fronteriza de hoy en día tienen capacidades y comportamientos peligrosos, en particular engaño, trampa, mentira, piratería, autoconservación y, en general, la desalinización de los objetivos”, declaró Bengio el martes 3 de junio) blog.
Bengio, fundador de la organización sin fines de lucro Instituto de AI de Mila-Quebec y un maestro en Universidad de MontrealCiudad Los ejemplos de Rogue AI siguiendo:
- Un modo de IA aprendió que sería reemplazado y Escondido en secreto Su código en el sistema donde funcionaría la nueva versión.
- Anthrope reveló que Claude 4 chandi Un ingeniero para evitar ser reemplazado por una nueva versión.
- Un modelo de IA confrontado con la derrota en el ajedrez pirata la computadora a ganar.
Estas son “signos de alerta tempranos” de la IA que se lanzan a acciones “potencialmente peligrosas” si no están controladas, según Bengio.
“Si perdemos el control del AIS de los abrazos, podría afectar en gran medida a la humanidad”, agregó Bengio en un Yurtube de Lawzero video.
Lawzero desarrolla lo que él llama “científico de AIS”, modelos no envejados que observan y explican en lugar de actuar o imitar las acciones de los humanos, según un papel blanco Para el cual Bengio fue el autor principal.
Estos científicos de AIS actuarían como una barandilla para los agentes de IA, para identificar acciones riesgosas antes de ser promulgadas. En particular, los científicos de AIS también tienen una “noción de incertidumbre”, en contraste con los modelos de IA actuales que pueden alucinar mentiras pero lo hacen con confianza.
Estructura de Lawzero vs Openai
Lawzero de Bengio contrasta con OpadaiQuien comenzó en 2015 como un laboratorio de investigación sin fines de lucro que iba a ser un cheque y un adelantamiento contra Google con fines de lucro cuando era el jefe indiscutible de la IA.
Pero a medida que OpenAi se dio cuenta de que no podía aumentar los miles de millones de dólares necesarios para financiar la formación del modelo AI, creó una subsidiaria de fines de lucro bajo su padre sin fines de lucro.
A principios de este mes, Operai ha cambiado nuevamente su estructura: la aprobación de su subsidiaria con ganancias en una empresa de servicios públicos, que elimina el techo de los rendimientos de los inversores. Ha mantenido al padre sin fines de lucro, pero ahora la junta directiva que no es de fines de lucro incluye ejecutivos adaptados a las empresas.
Obtenga más información: Expertos de la unidad de IA: llamado urgente para regulaciones de defake profundo
Obtenga más información: Cuando tu asistente de IA tiene su propia mente
Obtenga más información: Estados Unidos apunta al uso de la IA “maliciosa” en la parte superior de la seguridad en noviembre