4 de los grandes han entendido que esto de la IA se les puede ir de las manos y se han unido para que eso no ocurra.
Nuevo organismo de la industria busca promover el desarrollo seguro y responsable de la IA
Recientemente Anthropic, Google, Microsoft y OpenAI anunciaron la formación de un nuevo organismo llamado Frontier Model Forum, enfocado en impulsar el desarrollo seguro y ético de los modelos de inteligencia artificial más avanzados. Veamos más detalles sobre este esfuerzo conjunto.
Aunque son varios los beneficios de la IA también hay riesgos
Objetivos y enfoque
El objetivo del Frontier Model Forum es beneficiar a todo el ecosistema de IA, avanzando en investigación sobre seguridad, identificando buenas prácticas, y facilitando el intercambio de información entre empresas, gobiernos y otros actores relevantes.
Investigación en seguridad
Un aspecto clave es apoyar la investigación sobre los desafíos de seguridad de los modelos más poderosos, para minimizar riesgos potenciales. Inicialmente se enfocarán en desarrollar evaluaciones técnicas estandarizadas.
Mejores prácticas
También buscan promover el intercambio de conocimientos y establecer estándares sobre prácticas seguras de desarrollo e implementación de estos modelos de vanguardia.
Intercambio entre sectores
Otra meta es habilitar canales de comunicación efectivos entre empresas, gobiernos y otros actores para discutir asuntos de seguridad y riesgos relacionados con esta tecnología.
Reacciones iniciales
Kent Walker, de Google, expresó entusiasmo por «trabajar junto a otras empresas líderes, compartiendo experiencia técnica para promover la innovación responsable en IA».
Por su parte, Brad Smith de Microsoft dijo que «las empresas que crean tecnología de IA tienen la responsabilidad de garantizar que sea segura y permanezca bajo control humano», y que esta iniciativa es un «paso vital» en ese sentido.
Anna Makanju de OpenAI remarcó que «es vital que las empresas de IA se alineen en un terreno común y promuevan prácticas de seguridad reflexivas y adaptables».
Finalmente, Dario Amodei de Anthropic sostuvo que «el Frontier Model Forum desempeñará un papel vital en la coordinación de las mejores prácticas y el intercambio de investigaciones sobre la seguridad de la IA”.
Conclusión
El desarrollo de tecnologías tan disruptivas como la IA de vanguardia requiere de esfuerzos mancomunados entre empresas, gobiernos y sociedad civil para potenciar sus beneficios y mitigar sus riesgos. El reciente anuncio del Frontier Model Forum parece ser un paso en la dirección correcta, pero habrá que seguir atentamente su evolución para comprobar si logra avances concretos. La colaboración entre los principales actores será clave.
Si te interesa la IA Generativa te invito a que te unas a nuestro grupo donde estarás a la última y conocerás de primera mano cómo usar todas las herramientas que van saliendo UNIRSE