Segir af sér vegna samnings Pentagon við gervigreindarfyrirtæki

Caitlin Kalinowski, fyrrverandi vélbúnaðarstjóri OpenAI, tilkynnti um afsögn sína í færslu á samfélagsmiðlum. Þar sagðist hún telja að fyrirtækið hafi ekki gefið sér nægan tíma í samningagerð við Pentagon og hafi vegna þess veitt þeim leyfi til að nota gervigreindarlíkön OpenAI á leynilegum skýjanetum Pentagon. Reuters greinir frá.

„Eftirlit með Bandaríkjamönnum án dómsúrskurðar og sjálfvirk banvæn vopn án samþykkis eru mörk sem hefðu verðskuldað meiri umhugsun en þau fengu,“ skrifaði Kalinowski en tekur fram að hún beri mikla virðingu fyrir Sam Altman, forstjóra OpenAI.

Hún vísar þar í klásúlu í samningunum sem virðist segja til um að Pentagon hafi leyfi til að nota gervigreindartæknina til að fylgjast með Bandaríkjamönnum og búa til sjálfvirk vopn knúin af gervigreind.

OpenAI og varnarmálaráðuneyti Bandaríkjanna, sem fer með umsjón Pentagon, undirrituðu samninginn í lok febrúar. Altman sagði í færslu á samfélagsmiðlum þann dag að öryggi gervigreindar og víðtæk dreifing ávinnings hennar væru þeirra helstu markmið.

„Tvær af mikilvægustu öryggisreglum okkar eru bann við fjöldaeftirliti innanlands og ábyrgð manna á beitingu valds, þar með talið fyrir sjálfvirk vopnakerfi. Varnarmálaráðuneytið er sammála þessum reglum, endurspeglar þær í lögum og stefnu og við settum þær inn í samning okkar,“ sagði Altman.

Afsögn Kalinowski gefur hins vegar í skyn að samningurinn hafi ekki verið nægilega vel útfærður.

Loka á Anthropic

Varnarmálaráðuneytið ætlaði að gera álíka samning við gervigreindarfyrirtækið Anthropic en Dario Amodei, forstjóri Anthropic, sagði að hann gæti ekki með góðri samvisku veitt Pentagon ótakmarkaðan aðgang að tækninni.

„Sum notkun er líka einfaldlega utan marka þess sem tækni nútímans getur gert á öruggan og áreiðanlegan hátt. Tvö slík tilvik hafa aldrei verið innfalin í samningum okkar við varnarmálaráðuneytið og við teljum að þau eigi ekki að vera innifalin núna,“ segir í yfirlýsingunni.

Í kjölfar yfirlýsingarinnar bannaði Donald Trump Bandaríkjaforseti öllum alríkisstofnunum Bandaríkjanna að nota gervigreindartækni Anthropic, sem á gervigreindarmállíkanið Claude. 

Samkvæmt Politco ákvað varnarmálaráðuneytið að skilgreina Anthropic sem áhættu í brigðakeðju sem bannar fyrirtækjum sem eiga í viðskiptum við bandaríska herinn og alríkisstofnanir að eiga í viðskiptum við Anthropic.

„Frá upphafi hefur þetta snúist um eina grundvallarreglu: að herinn geti nýtt sér tækni í öllum löglegum tilgangi,“ segir í yfirlýsingu Pentagon.

„Herinn mun ekki leyfa söluaðila að troða sér inn í valdakeðjuna með því að takmarka lögmæta notkun á mikilvægri getu og stofna hermönnum okkar í hættu.“