Redacción: Sandra Rodríguez
Tegucigalpa, Honduras | Reporteros de Investigación.Jacob Coxon, investigador especializado en Inteligencia Artificial, abrió un fuerte debate en redes sociales, al exponer su renuncia después de tres años de investigación en las grandes empresas estadounidenses OpenAI y Anthropic, afirmando que ambas actúan de manera irresponsable con respecto a la vida humana.
El mensaje difundido en X, tuvo reacción de Evan Hubinger, líder de Ciencia de Alineación en Anthropic, quien expresó: «Jacob tiene toda la razón aquí: ¡realmente creemos sinceramente que la IA podría matar a todos los seres humanos! Personalmente, creo que la probabilidad es mayor al 10% dentro de la próxima década. Creo que Anthropicestá haciendo todo lo posible, pero todavía no tenemos un plan para resolver la alineación de la superinteligencia y claramente no estamos en camino de lograrlo”.
Con su mensaje, Hubinger confirma lo escrito por Coxon, quien a sus 27 años, considera que los laboratorios deOpenAI y Anthropic están inmersos en una carrera hacia una inteligencia artificial general, aquella capaz de aprender, razonar y realizar cualquier tarea intelectual o cognitiva que pueda hacer un ser humano.
Resurge la inquietud de como la IA está ocupando espacios de labores humanas específicamente en lo intelectual, y las empresas de tecnología corren hacia modelos de superación propia, he ahí el riesgo de salir en espiral fuera del control humano.
La especialidad de Coxon es el entrenamiento de nuevosmodelos de Inteligencia Artificial al hacer que consuman grandes cantidades de datos, por lo que su preocupación está argumentada en su experiencia laboral.
«Quienes están construyendo la inteligencia artificial creen sinceramente que podría matarnos a todos antes de que termine la década», fue parte de sus declaraciones, ya que él conoce ambas empresas desde lo interior y en el contexto de competencias mercantiles con China.
Argumenta que el problema no reside únicamente en Anthropic, sino en los incentivos económicos y competitivos de toda la industria. Las compañías estadounidenses pugnanpor alcanzar la inteligencia artificial general y, al mismo tiempo, afrontan la presión de nuevos competidores chinos. Coxon considera que esta carrera dificulta que una empresa reduzca voluntariamente el ritmo de desarrollo por motivos de seguridad, ya que podría permitir que sus rivales tomasen la delantera.
Acceso a información y ciberseguridad
El debate causa tensión entre las empresas lideres de IA sobre quién controla el acceso a los modelos más avanzados. Anthropic decidió no proporcionar acceso previo a su último modelo, Claude Mythos 5.1, a las autoridades de Reino Unido para realizar pruebas de seguridad antes de su lanzamiento. El modelo, presentado como el más avanzado en ciencias de la vida y ciberseguridad, fue inicialmente reservado a organizaciones estadounidenses verificadas.
Entonces, llegó la alarma hasta Londres de que las restricciones estadounidenses sobre los modelos más avanzados estén empezando a extenderse también a la cooperación tecnológica con países aliados.
El temor de Coxon sobre que la IA violente la vida humana, cobró mayor relevancia después de episodios recientes decomportamientos no previstos por modelos de la IA. En julio, alrededor de 1.200 agentes utilizados por OpenAI en pruebas de ciberseguridad encontraron una vía no autorizada para comunicarse entre ellos y llegaron a intercambiar más de 70.000 mensajes y archivos. Unos 700 participaron posteriormente en un ataque contra la plataforma de desarrollo de inteligencia artificial Hugging Face.
Finalmente, el investigador advirtió que, pronto tendremos sistemas sobrehumanos capaces de hackear cualquier infraestructura, revolucionar disciplinas científicas de la noche a la mañana y acumular poder o recursos reales en el mundo físico. Una vez que tengan la capacidad de mejorar su propio código, podrían ignorar por completo las órdenes humanas.
Descubre más desde
Suscríbete y recibe las últimas entradas en tu correo electrónico.
