Sam Altman, director ejecutivo de OpenAI, intenta mediar en un conflicto creciente entre la empresa de IA Anthropic y el Pentágono de Estados Unidos. En una nota interna a los empleados, menciona que OpenAI está trabajando en un posible acuerdo con el Departamento de Defensa para permitir modelos de IA en entornos confidenciales.
Al mismo tiempo, Altman establece límites claros: no habrá vigilancia masiva ni armas autónomas letales. La apuesta es alta: se trata del futuro de la inteligencia artificial en el campo de batalla.
Sam Altman busca un compromiso con el Pentágono
Según The Wall Street Journal, OpenAI está explorando si sus modelos pueden utilizarse en sistemas militares clasificados sin comprometer los principios de seguridad de la empresa. Aún no se ha firmado ningún acuerdo y las negociaciones podrían fracasar.
En el memo, Altman expresa que OpenAI desea un contrato que permita todas las aplicaciones legales, excepto aquellas que sean ilegales o inadecuadas para el uso en la nube. Menciona explícitamente la vigilancia masiva interna y las armas ofensivas autónomas.
Altman subraya: “Siempre hemos creído que la IA no debe usarse para la vigilancia masiva ni para armas letales autónomas, y que las personas deben seguir participando en decisiones cruciales.”
Con ello, se alinea con la posición de Anthropic, que previamente se negó a poner su modelo Claude a disposición bajo la condición amplia del Pentágono de que la IA debe poder usarse para “todos los fines legales”.
Anthropic versus Pentágono: una lucha por el control
El conflicto surgió cuando Dario Amodei, director de Anthropic, se mantuvo firme en condiciones estrictas para el uso militar de la IA. El Pentágono no quiere que las empresas privadas determinen cómo el gobierno utiliza la tecnología para la seguridad nacional, especialmente en la carrera tecnológica con China.
Al mismo tiempo, el sector de la IA teme que una interpretación demasiado amplia de “fines legales” pueda establecer precedentes peligrosos. Dentro de OpenAI y Google, incluso los empleados firmaron una carta instando a sus directivas a resistir la presión del Departamento de Defensa.
Es notable que la empresa xAI de Elon Musk sí aceptó la exigencia de que su modelo se utilice para todos los fines legales. Sin embargo, ese modelo no se considera una alternativa completa a la tecnología de Anthropic.
¿Qué está en juego para el sector de la IA?
ChatGPT ya está disponible en sistemas militares no clasificados. Según fuentes, las conversaciones para permitir su uso en entornos confidenciales han acelerado su ritmo.
OpenAI, según personas cercanas, busca integrar garantías técnicas además de acuerdos contractuales. Esto incluye limitar los modelos de IA a entornos en la nube para evitar su integración directa en armas autónomas. También quiere emplear personal con acreditación de seguridad para supervisar su uso.
Altman enfatiza que el conflicto ya no es solo entre Anthropic y el Pentágono. “Es un tema para todo el sector,” escribe, expresando su deseo de ayudar a desescalar la situación.
La posibilidad de llegar a un acuerdo sigue siendo incierta. Sin embargo, es evidente que el resultado podría tener repercusiones en toda la industria de la IA. Por primera vez, las principales empresas de IA parecen estar estableciendo límites sobre cómo los gobiernos pueden utilizar su tecnología.
El G7 simula ciberataques a bancos: ¿resiste el sistema a la IA?
Los países del G7 preparan simulacros de ciberataques con IA contra bancos para detectar vulnerabilidades en el sistema financiero.
Claude resuelve en 30 minutos un enigma de la NSA que llevaba 25 años sin solución
Claude resuelve en 30 minutos un enigma de la NSA que llevaba 25 años sin solución. El sorprendente hallazgo de la IA también conlleva una cuantiosa recompensa.
El consejero delegado de Palantir: la IA predecirá lo que piensas
Alex Karp, consejero delegado de Palantir, advierte de que la IA podrá predecir lo que pensamos. Entretanto, las acciones de su empresa alcanzan máximos históricos.
Más leídos
Trump podría perder su mayoría: ¿qué supondría para la Bolsa?
Trump podría perder su mayoría. ¿Qué supondría para Wall Street? Los analistas ven grandes oportunidades en las acciones, pero advierten de los riesgos ligados a los tipos de interés.
La Bolsa estadounidense parece sólida, pero estas cifras revelan otra realidad
Nvidia y Microsoft sostienen el índice, pero estas cifras muestran hasta qué punto se ha deteriorado el resto del mercado. El 40% de los valores ya está en un mercado bajista. Los altos tipos de interés pasan factura.
La plata se dispara y los expertos prevén fuertes subidas
La plata sube casi un tres por ciento y el oro repunta con fuerza. Los expertos creen que el precio de la plata podría seguir subiendo hasta acercarse a los 100 dólares.
