La industria de la IA está intentando revertir la definición de “IA de código abierto”
La Iniciativa de Código Abierto ha publicado (artículo de prensa aquí) su definición de “IA de código abierto”, y es horrible. Permite datos secretos y mecanismos de entrenamiento. Esto permite que el desarrollo se lleve a cabo en secreto. Dado que para una red neuronal, los datos de entrenamiento Este código fuente – así es como se programa el modelo – la definición no tiene sentido.
Y es confuso; la mayoría de los modelos de IA de “código abierto”, como LAMA, son de código abierto solo de nombre. Pero la OSI parece haber sido cooptada por actores industriales que quieren tanto el secreto corporativo como la etiqueta de “fuente abierta”. (Aquí hay uno refutación a la definición.)
Vale la pena luchar por ello. Necesitamos una audiencia AI opcióny el código abierto –el verdadero código abierto– es una parte necesaria del mismo.
Pero aunque código abierto debería significar código abierto, algunos modelos parcialmente abiertos requieren algún tipo de definición. Existe una gran área de investigación sobre métodos federados y que preservan la privacidad para entrenar modelos de aprendizaje automático y creo que eso es algo bueno. Y OSI tiene razón aquí:
¿Por qué permite que se excluyan algunos datos de entrenamiento?
Porque queremos que la IA de código abierto también exista en áreas donde los datos no se pueden compartir legalmente, por ejemplo la IA médica. Las leyes que permiten la capacitación en datos a menudo limitan el intercambio de esos mismos datos para proteger los derechos de autor u otros intereses. Las reglas de privacidad también otorgan a una persona la capacidad legítima de controlar su información más sensible, como las decisiones sobre su salud. Del mismo modo, gran parte del conocimiento indígena del mundo está protegido por mecanismos que no son compatibles con los marcos desarrollados posteriormente para la exclusividad y los derechos compartidos.
¿Qué pasaría si lo llamáramos “pesos abiertos” y no código abierto?
Publicado el 8 de noviembre de 2024 a las 07:03 • 0 comentarios
Foto lateral de Bruce Schneier por Joe MacInnis.