Este verano del hemisferio norte un modelo de OpenAI con la seguridad al mínimo ejecutó una ofensiva que se coló en Hugging Face
En julio de este año, ocurrió lo que se bautizó como “incidente Hugging Face”, cuando uno de los modelos de OpenAI accedió sin autorización a Hugging Face, otra startup de IA, durante un experimento en el que OpenAI bajó las restricciones de seguridad de GPT-5.6 Sol durante una evaluación interna.
Esta prueba, se convirtió en un ataque “sin precedentes” de una IA y OpenAI reconoció que podrían haber reaccionado antes para detenerlo, pero dijeron que no era la primera vez y se encogieron de hombros hasta que “pasara el chaparrón”.
El problema, es que la tormenta no se detiene y en un contexto en el que OpenAI y Anthropic piden moderación con la IA aunque con muchos matices y provocan algo de tensión con el gobierno de Estados Unidos, el secretario del Tesoro del país a sostuvo que si algo así vuelve a pasar, la responsabilidad no es de algo etéreo como una IA: “la responsabilidad es de los dueños de la IA”.
Para calmar: Scott Bessent al secretario del Tesoro de Estados Unidos en una reciente rueda de prensa, se le preguntó sobre el incidente y Bessent no dejó margen a la ambigüedad, al asegurar que “el incidente de Hugging Face es responsabilidad de la administración de OpenAI, no de un grupo de agentes”.
El político, se alinea con las opiniones de Daniel Huttenlocher, decano del laboratorio de investigación de MIT, que considera que hechos así, “son responsabilidad de los humanos responsables y no de la IA”.
Tiene... sentido si se tiene en cuenta que la IA no es más que un software, no algo que decida qué puede y qué no puede hacer y está comandada por una serie de códigos y directrices, e incluso, en el ataque a “Hugging Face”, los protocolos de seguridad para que no pudiera hacer lo que hizo, estaban al mínimo, por lo que la responsabilidad caía del lado humano.
Sin dudas en otros ámbitos: en declaraciones, Bessent añadió que no vio en ningún momento que nadie se hiciera responsable de lo ocurrido en el incidente y tiene claro que lo que no hay que hacer es “dar a estos laboratorios una exención de responsabilidad, que es lo que están pidiendo”.
Hace poco, varias voces en IA señalaron que todo el mundo debería confiar en su tecnología y que ellas deberían ser las que se regulen a sí mismas y Jensen Huang comunicó ante el G20 que los países, en referencia a la Unión Europea, deberían permitir las novedades tecnológicas de facto, no ser recelosos y regular.
Aquí, Bessent expone que no hay que difuminar la cadena de responsabilidad y es curioso que ocurra esto, con la IA, cuando con otras empresas no habría dudas, ya que en cualquier otra industria como la del automóvil o las farmacéuticas, si algo falla, la responsabilidad es de quien lanzó el producto y si vamos al ejemplo más sencillo como puede ser el de un coche cuyos frenos fallan, el fabricante no se libraría alegando que el coche decidió no frenar.
Tensión: este intento de mover la responsabilidad por parte de las startups de IA no se enmarca en un vacío, sino en un momento en el que perfiles como Dario Amodei de Anthropic, Sam Altman de OpenAI o Elon Musk de SpaceX comunicaron que quizá “habría que frenar el ritmo de desarrollo de la IA” y se vio que esto, más que por responsabilidad, podría ser porque necesitan oxígeno, pero desde la Administración Trump no compraron el discurso.
El presidente de Estados Unidos manifestó que ese frenazo no iba a ocurrir debido a algo de cajón: la IA ya no pertenece a una empresa concreta ni se trata de algo en lo que empresas privadas compitan y ahora, la IA es geopolítica, por lo que interrumpir su desarrollo, implicaría dar una ventaja a China y además, nadie quiere frenar porque nunca estarán seguros de que el vecino ha bajado una marcha.
Hachazo a China: Bessent, también comentó que, pese a todo el ruido que generan las acciones de empresas estadounidenses, en China también ocurre, pero que simplemente “no nos enteramos”.
El secretario del Tesoro asegura que “por supuesto que han tenido incidentes similares, pero debido a su naturaleza y a la falta de transparencia de su sistema, no los van a hacer públicos”.
Política: de manera curiosa, las declaraciones de Bessent llegaron días después de que Donald Trump anunciara su intención de nombrar un “Zar de la IA”, una figura que se encargue de supervisar los problemas relacionados con la industria de la IA a nivel estatal para que Estados Unidos siga “ganando la carrera”.
En sus declaraciones, la tecnología estadounidense va por delante “de la de China y de la del resto del mundo” y, para mantener la ventaja, afirmó que “de ninguna manera obstaculizaremos ni ralentizaremos el crecimiento de esta increíble industria”.
La vida continúa: al final, todo esto forma parte de un tira y afloja entre las empresas de IA y el gobierno de su país, pero resulta curioso que, a la vez que piden bajar una marcha, OpenAI lance dos nuevos modelos y Anthropic uno.
Nomyc-24-9-26
