OpenAI beschrijft gelaagde beveiligingen in pact met het Amerikaanse ministerie van Defensie

OpenAI zei op zaterdag 28 februari dat de overeenkomst die een dag eerder met het Pentagon werd gesloten om technologie te implementeren op het geclassificeerde netwerk van het Amerikaanse ministerie van Defensie, extra beveiligingsmaatregelen bevat om de gebruikssituaties te beschermen.

De Amerikaanse president Donald Trump gaf de regering vrijdag opdracht om te stoppen met werken met Anthropic, en het Pentagon zei dat het de startup als een supply-chain-risico zou aanmerken, wat een zware klap betekende voor het kunstmatige intelligentielaboratorium na een confrontatie over technologische veiligheidsmaatregelen. Anthropic zei dat het elke risico-aanduiding voor de rechter zou aanvechten.

Kort daarna kondigde rivaal OpenAI, dat wordt gesteund door Microsoft, Amazon, SoftBank en anderen, laat op vrijdag zijn eigen deal aan.

"We denken dat onze overeenkomst meer veiligheidsmaatregelen heeft dan enige eerdere overeenkomst voor geclassificeerde AI-implementaties, inclusief die van Anthropic," zei OpenAI op zaterdag.

Het AI-bedrijf zei dat het contract met het ministerie van Defensie, dat door de Trump-administratie is omgedoopt tot het ministerie van Oorlog, drie rode lijnen handhaaft: OpenAI-technologie kan niet worden gebruikt voor massale binnenlandse surveillance, om autonome wapensystemen aan te sturen, of voor geautomatiseerde beslissingen met hoge inzet.

"In onze overeenkomst beschermen we onze rode lijnen door middel van een uitgebreidere, meerlaagse benadering. We behouden volledige discretie over onze veiligheidsstack, we implementeren via de cloud, geautoriseerd OpenAI-personeel is betrokken, en we hebben sterke contractuele bescherming," zei OpenAI.

Het Pentagon ondertekende het afgelopen jaar overeenkomsten ter waarde van elk maximaal $200 miljoen met grote AI-laboratoria, waaronder Anthropic, OpenAI en Google. Het Pentagon probeert alle flexibiliteit in defensie te behouden en niet beperkt te worden door waarschuwingen van de makers van de technologie tegen het aandrijven van wapens met onbetrouwbare AI.

OpenAI waarschuwde dat elke schending van het contract door de Amerikaanse regering tot beëindiging zou kunnen leiden, hoewel het eraan toevoegde: "We verwachten niet dat dat zal gebeuren."

Het bedrijf zei ook dat rivaal Anthropic niet als een "supply-chain-risico" moet worden aangemerkt, en merkte op: "We hebben ons standpunt hierover duidelijk gemaakt aan de regering." – Rappler.com