En una conversación en profundidad con el ícono del cine y la televisión Oprah Winfrey el jueves, el CEO de OpenAI, Sam Altman, compartió sus pensamientos sobre la inteligencia artificial y lo que depara el futuro para la relación entre humanos y computadoras.
En una de varias entrevistas para el especial de máxima audiencia de Winfrey “IA y nuestro futuro”, Altman arrojó luz sobre el potencial transformador de esta tecnología, así como sobre los desafíos críticos que los desarrolladores y los responsables de las políticas deben abordar.
“Hace cuatro años, la mayoría de las personas del mundo, si se enteraban de la IA, pensaban en coches autónomos o en alguna otra cosa”, le dijo a Winfrey. “No fue hasta 2022 cuando la gente que la conocía por primera vez dijo: ‘Bueno, esta cosa de ChatGPT, esta computadora me habla, eso sí que es nuevo’. Y desde entonces, si nos fijamos en lo mucho que ha mejorado, ha sido un ritmo de mejora bastante pronunciado”.
Altman llamó a la IA el “próximo capítulo de la informática”, que permite a las computadoras comprender, predecir e interactuar con sus operadores humanos.
“Hemos descubierto cómo hacer que los ordenadores sean más inteligentes, que entiendan más, que puedan ser más intuitivos y más útiles”, dijo.
Cuando se le pidió que describiera cómo funciona ChatGPT, Altman volvió a lo básico y dijo que el núcleo de las capacidades de ChatGPT radica en su capacidad de predecir la siguiente palabra en una secuencia, una habilidad perfeccionada mediante el entrenamiento con grandes cantidades de datos de texto.
“En el nivel más básico, le mostramos al sistema 1.000 palabras en una secuencia y le pedimos que prediga qué palabra viene a continuación, y lo hacemos una y otra vez”, explicó, comparándolo con cuando un teléfono inteligente intenta predecir la siguiente palabra en un mensaje de texto. “El sistema aprende a predecir y, a partir de ahí, aprende los conceptos subyacentes”.
Durante el segmento, Winfrey señaló que la falta de confianza provocó una importante reestructuración en OpenAI en 2022. En noviembre de ese año, Altman fue despedido abruptamente como director ejecutivo de OpenAI, y la junta directiva citó una falta de confianza en el liderazgo de Altman, aunque fue reinstalado una semana después.
“Así que el listón en este aspecto es claramente muy alto: lo mejor que podemos hacer es poner esta tecnología en manos de la gente”, dijo Altman. “Hablar de lo que es capaz de hacer, de lo que no es, de lo que creemos que va a suceder, de lo que creemos que podría suceder y dar nuestro mejor consejo sobre cómo la sociedad debería decidir usarla”. [AI].”
“Creemos que es importante no lanzar algo que también podría salir mal y generar esa confianza con el tiempo, pero está claro que esta será una tecnología de mucho impacto y creo que, por lo tanto, se justifica un gran escrutinio”, agregó.
Una de las preocupaciones planteadas durante la entrevista fue la necesidad de diversidad en la industria de la IA, y Winfrey señaló que actualmente los hombres predominantemente blancos dominan el campo.
“Obviamente, queremos que todos se vean reflejados en nuestros productos”, afirmó Altman. “También queremos que la fuerza laboral de la industria sea mucho más diversa de lo que es, y el progreso es más lento de lo que nos gustaría, pero hay progreso allí”, afirmó, expresando su compromiso de garantizar que los beneficios de la IA sean accesibles para todos.
Altman también destacó la colaboración de OpenAI con los responsables políticos en el desarrollo de una inteligencia artificial más segura, y dijo que habla con miembros del gobierno de Estados Unidos, desde la Casa Blanca hasta el Congreso, varias veces a la semana.
El mes pasado, OpenAI y Anthropic anunciaron el establecimiento de una colaboración formal con el Instituto de Seguridad de la Inteligencia Artificial (AISI) de Estados Unidos. En virtud del acuerdo, el instituto tendría acceso a los nuevos modelos de ChatGPT y Claude de cada empresa, respectivamente, antes y después de su lanzamiento público.
Altman dijo que la colaboración entre los desarrolladores de IA y los responsables de las políticas es crucial, así como las pruebas de seguridad de los modelos de IA.
“Es muy importante que exista una asociación entre las empresas que desarrollan esta tecnología y la gobernanza; una de las primeras cosas que hay que hacer, y ya está ocurriendo, es conseguir que los gobiernos empiecen a pensar cómo realizar pruebas de seguridad en estos sistemas, como hacemos con los aviones o con los nuevos medicamentos o cosas por el estilo”, afirmó Altman. “Y creo que, a partir de ahí, si podemos mejorar en eso ahora, nos resultará más fácil determinar exactamente cuál será el marco regulatorio más adelante”.
Cuando Winfrey le dijo a Altman que lo habían llamado el hombre más poderoso y quizás el más peligroso del planeta, el CEO contraatacó.
“No me siento la persona más poderosa ni nada parecido”, dijo. “Siento que tengo la oportunidad, la responsabilidad en un sentido positivo, de poder impulsar esto en una dirección que creo que puede ser realmente buena para la gente”.
“Es algo serio, emocionante y algo estresante, pero es algo que siento muy profundamente y me doy cuenta de que nunca volveré a tocar algo tan importante”, añadió Altman.
Editado por Ryan Ozawa.
Generalmente inteligente Hoja informativa
Un viaje de IA semanal narrado por Gen, un modelo de IA generativa.