Dario Amodei, de Anthropic, busca un contrato de defensa con el Pentágono

El contrato de 200 millones de dólares entre Anthropic y el Departamento de Defensa (DoD) se rompió la semana pasada después de que las partes no pudieran ponerse de acuerdo sobre el alcance del acceso sin restricciones del ejército a la IA de Anthropic.
Cuando el DoD llegó a un acuerdo con OpenAI, parecía que la relación del ejército con Anthropic había terminado, pero nuevos informes del Financial Times y Bloomberg indican que Amodei ha reanudado las negociaciones con el funcionario del Pentágono Emil Michael.
Según se informa, estas conversaciones tienen como objetivo alcanzar un compromiso sobre un contrato que defina cómo el Pentágono puede seguir utilizando los modelos de IA de Anthropic.
Sería sorprendente que Anthropic consiguiera un nuevo acuerdo, teniendo en cuenta los duros intercambios entre las partes. Aun así, un compromiso podría beneficiar a ambas partes: el Pentágono ya depende de la tecnología de Anthropic y un cambio brusco a los sistemas de OpenAI sería perjudicial.
El desacuerdo comenzó cuando el director ejecutivo de Anthropic, Dario Amodei, expresó su preocupación por una cláusula que permitía al ejército utilizar la IA de Anthropic para cualquier fin legal. Amodei insistió en que la empresa no permitiría que su tecnología se utilizara para la vigilancia masiva interna o para armas autónomas, y quería que el contrato prohibiera explícitamente dichos usos. Después de que Anthropic se negara a cumplir, el departamento recurrió a OpenAI.
Desde entonces, personas de ambos bandos han expresado abiertamente su frustración. Michael calificó a Amodei de «mentiroso» con «complejo de Dios». Amodei, en un mensaje que, según se informa, envió al personal de Anthropic esta semana, criticó al Departamento de Defensa y al director ejecutivo de OpenAI, Sam Altman, refiriéndose al acuerdo con OpenAI como «teatro de seguridad» y a los mensajes que lo rodeaban como «mentiras descaradas».
«La razón principal por la que [OpenAI] aceptó [el acuerdo del Departamento de Defensa] y nosotros no es que ellos se preocupaban por apaciguar a los empleados, y nosotros nos preocupábamos por prevenir los abusos», escribió Amodei en el memorándum.
El secretario de Defensa, Pete Hegseth, se ha comprometido a designar a Anthropic como «riesgo para la cadena de suministro», lo que supone, en la práctica, incluir a la empresa en una lista negra que le impide trabajar con cualquier otra empresa que haga negocios con el ejército estadounidense, aunque aún no ha emprendido acciones legales para hacer cumplir esta medida. Este tipo de designación suele reservarse para adversarios extranjeros, y no está claro si se mantendría en los tribunales.
Artículo relacionado
Sam Altman desata un debate sobre la desaceleración de la IA
Escuchar enApple PodcastsEscuchar enSpotifyEl director ejecutivo de OpenAI, Sam Altman, sugirió recientemente que podría ser el momento de “regular el ritmo del desarrollo de la IA” para permitir que la sociedad “se fortalezca en torno a algunos de
Anthropic entra en el mercado de tecnología legal de IA mientras se intensifica la competencia
Anthropic presentó el martes un conjunto de nuevas capacidades de chatbot, destinadas a brindar soporte automatizado a despachos de abogados. Estas mejoras amplían Claude for Legal, la plataforma específica para firmas introducida a principios de est
La jefa de robótica de OpenAI, Caitlin Kalinowski, renuncia por la asociación con el Pentágono
El líder de robótica de OpenAI, Caitlin Kalinowski, ha dimitido tras la controvertida asociación de la empresa con el Departamento de Defensa.“Esta no fue una decisión fácil”, explicó Kalinowski en un comunicado en redes sociales. “Aunque la IA dese
Recomendaciones de temas especiales relacionados
comentario (1)
0/500
Cette info me donne un peu froid dans le dos... La collaboration entre l'armée et l'IA, surtout sans garde-fous clairs, c'est un terrain glissant. Anthropic a l'air de vouloir poser des limites, c'est une bonne chose en soi. Mais au final, c'est OpenAI qui récupère le contrat ? Ça ressemble à une course à l'armement technologique entre géants de l'IA. Où est la réflexion éthique collective ? 🤔

El contrato de 200 millones de dólares entre Anthropic y el Departamento de Defensa (DoD) se rompió la semana pasada después de que las partes no pudieran ponerse de acuerdo sobre el alcance del acceso sin restricciones del ejército a la IA de Anthropic.
Cuando el DoD llegó a un acuerdo con OpenAI, parecía que la relación del ejército con Anthropic había terminado, pero nuevos informes del Financial Times y Bloomberg indican que Amodei ha reanudado las negociaciones con el funcionario del Pentágono Emil Michael.
Según se informa, estas conversaciones tienen como objetivo alcanzar un compromiso sobre un contrato que defina cómo el Pentágono puede seguir utilizando los modelos de IA de Anthropic.
Sería sorprendente que Anthropic consiguiera un nuevo acuerdo, teniendo en cuenta los duros intercambios entre las partes. Aun así, un compromiso podría beneficiar a ambas partes: el Pentágono ya depende de la tecnología de Anthropic y un cambio brusco a los sistemas de OpenAI sería perjudicial.
El desacuerdo comenzó cuando el director ejecutivo de Anthropic, Dario Amodei, expresó su preocupación por una cláusula que permitía al ejército utilizar la IA de Anthropic para cualquier fin legal. Amodei insistió en que la empresa no permitiría que su tecnología se utilizara para la vigilancia masiva interna o para armas autónomas, y quería que el contrato prohibiera explícitamente dichos usos. Después de que Anthropic se negara a cumplir, el departamento recurrió a OpenAI.
Desde entonces, personas de ambos bandos han expresado abiertamente su frustración. Michael calificó a Amodei de «mentiroso» con «complejo de Dios». Amodei, en un mensaje que, según se informa, envió al personal de Anthropic esta semana, criticó al Departamento de Defensa y al director ejecutivo de OpenAI, Sam Altman, refiriéndose al acuerdo con OpenAI como «teatro de seguridad» y a los mensajes que lo rodeaban como «mentiras descaradas».
«La razón principal por la que [OpenAI] aceptó [el acuerdo del Departamento de Defensa] y nosotros no es que ellos se preocupaban por apaciguar a los empleados, y nosotros nos preocupábamos por prevenir los abusos», escribió Amodei en el memorándum.
El secretario de Defensa, Pete Hegseth, se ha comprometido a designar a Anthropic como «riesgo para la cadena de suministro», lo que supone, en la práctica, incluir a la empresa en una lista negra que le impide trabajar con cualquier otra empresa que haga negocios con el ejército estadounidense, aunque aún no ha emprendido acciones legales para hacer cumplir esta medida. Este tipo de designación suele reservarse para adversarios extranjeros, y no está claro si se mantendría en los tribunales.
Sam Altman desata un debate sobre la desaceleración de la IA
Escuchar enApple PodcastsEscuchar enSpotifyEl director ejecutivo de OpenAI, Sam Altman, sugirió recientemente que podría ser el momento de “regular el ritmo del desarrollo de la IA” para permitir que la sociedad “se fortalezca en torno a algunos de
Anthropic entra en el mercado de tecnología legal de IA mientras se intensifica la competencia
Anthropic presentó el martes un conjunto de nuevas capacidades de chatbot, destinadas a brindar soporte automatizado a despachos de abogados. Estas mejoras amplían Claude for Legal, la plataforma específica para firmas introducida a principios de est
La jefa de robótica de OpenAI, Caitlin Kalinowski, renuncia por la asociación con el Pentágono
El líder de robótica de OpenAI, Caitlin Kalinowski, ha dimitido tras la controvertida asociación de la empresa con el Departamento de Defensa.“Esta no fue una decisión fácil”, explicó Kalinowski en un comunicado en redes sociales. “Aunque la IA dese
Cette info me donne un peu froid dans le dos... La collaboration entre l'armée et l'IA, surtout sans garde-fous clairs, c'est un terrain glissant. Anthropic a l'air de vouloir poser des limites, c'est une bonne chose en soi. Mais au final, c'est OpenAI qui récupère le contrat ? Ça ressemble à une course à l'armement technologique entre géants de l'IA. Où est la réflexion éthique collective ? 🤔





Hogar






