La creciente competencia en el desarrollo de inteligencia artificial ha encendido luces de alarma entre los protagonistas del sector. Los líderes de Anthropic y OpenAI han coincidido en la necesidad de desacelerar el avance de los modelos más avanzados y han solicitado reforzar los controles externos, recibiendo el apoyo del empresario Elon Musk.
Este debate surge tras las declaraciones de Jacob Coxon, un investigador que trabajó en ambas compañías y que recientemente dejó Anthropic, expresando su preocupación por la velocidad y las condiciones en las que se desarrolla la IA. Coxon advirtió sobre los peligros de que un pequeño grupo de empresas compita por crear sistemas cada vez más potentes sin suficiente supervisión.
En respuesta a estas inquietudes, Dario Amodei, CEO de Anthropic, publicó un ensayo titulado “We Must Pace the Frontier”, donde argumenta que la industria necesita desacelerar la carrera por los modelos de frontera. Amodei expone un plan de tres partes para lograr este objetivo, subrayando la importancia de que los mecanismos de seguridad se adapten a la creciente capacidad de la tecnología.
Anthropic ha tomado medidas concretas al permitir que evaluadores externos accedan permanentemente a sus sistemas, lo que les permitirá verificar el cumplimiento de las normas de seguridad y evaluar el alineamiento de los modelos durante su entrenamiento.
La propuesta ha recibido el respaldo de Sam Altman, CEO de OpenAI, quien también ha reconocido la necesidad de moderar el avance tecnológico. Altman anunció que OpenAI seguirá el ejemplo de Anthropic y otorgará a los evaluadores independientes un acceso similar al de sus empleados para supervisar sus sistemas.
La coincidencia entre Amodei, Altman y Musk ha ampliado el debate sobre cómo controlar el desarrollo acelerado de la inteligencia artificial, un tema que se había discutido principalmente entre investigadores y expertos en seguridad. El desafío radica en que cada compañía tiene incentivos comerciales para lanzar modelos avanzados antes que sus competidores, mientras que la regulación y supervisión requieren tiempo para evaluar los riesgos asociados con el aumento de la autonomía de la IA.
Las declaraciones de Coxon y las posiciones de Amodei, Altman y Musk ponen de manifiesto una paradoja en la carrera por la inteligencia artificial: las empresas comienzan a reconocer que la velocidad de esta competencia puede convertirse en uno de sus mayores riesgos.
Fuente: NA
