Anthropic-eko zuzendari nagusiak IAren garapena moteltzeko plana azaldu du
Dario Amodeik industriari eskatu berri dio... moteltzeko. Ez gelditzeko. Erritmoa hartzeko. Saiakera luzea, hiru urrats, eta abisua: auto-hobekuntza errepikakorra helduek ikus dezaketena baino azkarrago prestatzen ari da dagoeneko.
Anthropic-ek aldebakartasunez gonbidatzen ditu txertatutako ebaluatzaileak eraikinaren barrura - txapa, mahai, ordenagailu eramangarri eta emaitzak PR iragazkirik gabe argitaratzeko eskubidea. Gero, laborategi demokratikoek segurtasun estandarrak koordinatzea nahi du. Gero, nolabait, akordio bat gobernu autoritarioekin. Paperean erraza. Beste leku guztietan zaila.
Oraindik ere dio IA mirari bat izan daitekeela. Dioenez, gaiago den eta deslerrokatutako multzo batek interneten kontrola hartu dezake botnet iraunkor batekin eta ehunka mila milioi kalte eragin ditzake. Bi esaldi horiek elkarren ondoan daude eta ez dira bateragarriak.
A - eta antitrust salbuespen estu bat nahi du segurtasun-elkarrizketak berak arazo legal bat izan ez daitezen. Balaztak paperekin datoz. Noski badaudela.
Sam Altmanek baieztatu du OpenAI ez dela aurten burtsara aterako, eta esan du orain IPO bat "une desegokian" etorriko litzatekeela IAren segurtasun kezkak direla eta
Altmanek elkarrizketa esklusibo baterako eseri eta kotizatzeko egutegia zapuztu zuen. Burtsara ateratzea oraintxe bertan, esan zuen, "une desegokia" litzateke. Segurtasun lana ez dago eginda. Lerrokatzea ez dago eginda. Gizartea ez dago prest. Presioa eman ziotenean - ez aurten.
Bankariak jadanik inguruan zebiltzan. Fitxategi konfidentziala existitzen da. Orain zuzendari nagusiak dio lehenik gauza asko egin behar dituztela, besteak beste, industriak eta gobernuek nola lan egiten duten elkarrekin jakitea. Ia lasaituta zirudien itxaroteagatik.
Giza kontrolpetik kanpo IA eraikitzea "erabat" posible dela ere esan zuen, eta gero prestakuntza eten egingo zuela zin egin zuen bidea hori bada. Ausarta. Gainera, komenigarria, agian. Agian biak. Irabazi-asmorik gabeko/irabazi-asmorik gabeko erakundeen arteko nahaspila, argudiatu zuen, akziodunen intereserako ez diren deiak egin ahal izateko existitzen da. Ikusiko dugu esaldi horrek benetako prospektu batekin kontaktuan irauten duen.
OpenAIko Sam Altmanek segurtasun arriskuak konpontzeko beste IA enpresekin itun bat egingo duela iradoki du
Elkarrizketa bera, titular desberdina, eta hau da xuxurla. Amodei, Musk eta Demis Hassabisekin esertzea da hurrengo mugimendu naturala. Altman: uste du hori gertatuko dela. Ez ditu aurrez iragarriko elkarrizketa pribatuak. Gero, funtsean, aurrez iragarri zituen.
Bi zifrako arrisku katastrofikoa ez da onargarria, esan zuen. Oraindik argitaratu gabeko modeloak hain gai dira dagoeneko, ezen monitorizazio hobea gabe gehiago bultzatzea arduragabea iruditzen baita. Benetako ituna eta arretaz filtratutako atmosfera berdinak izan daitezke kanpotik.
Langileek barne-barne honen bertsio bat entzun zuten jada. Jendaurrean lainoa da oraindik. Gela gertatzen bada, bikain. Gertatzen ez bada, aipuak funtzionatu du oraindik.
Sam Altmanek Dario Amodeiren moteltzearen aldeko deia babesten du, eta OpenAIk gauza bera egingo duela dio
Saiakeraren ondorengo ordu batzuk, Altmanek argitaratu zuen OpenAIk txertatutako ebaluatzailearen konpromisoa beteko zuela. Langileen antzeko sarbidea. Laster gehiago partekatuko dugu. Muskek hiru hitz idatzi zituen: "Dariok arrazoia du". Hiru zuzendari nagusi arerio. Lelo bakarra. Asteburuko energia urduria.
Koordinazioa eta antzerkia elkarrekin joan daitezke. Amodeiren planaren lehen mailan bi laborategi handienek baietz egin dute jendaurrean. Hugging Face -bai, Hugging Face horrek- ebaluatzaile programan sartzeko eskatu zuen eta Open Alignment Initiative izeneko zerbait abiarazi zuen. Gardentasuna hackeatu zituzten pertsonen aldetik. Poetikoa, edo seinalatua.
Europak, balio badu ere, ez du inor AEBetako estiloko salbuespen hori eskatzeko. Bruselak aspaldi utzi zion banakako salbuespenak emateari. Beraz, esku-ematea amerikarra da. Maparen gainerakoa... sorbaldak altxatzea da.
OpenAI-k irabazi besterik ez du nahi
Matematikariak ez daude asteburu osoko elkarrizketen ondoren ospakizun-giroan. OpenAIren Navier-Stokes esprinta -gutxi gorabehera hamar mila agente, hamarnaka milioi dolar konputazio-lanetan, laurogeita zortzi ordu- eremu barrutik ikusitako garaikur-bilaketa baten antza du. Matematikariek ikuspegia nahi dute. Laborategiak, behin eta berriz esaten dutenez, irabazi nahi du.
Tristan Buckmasterrek esan zien OpenAIk konputazio mugagabea eta egiletza esklusiboa eskaintzen zizkiola Anthropic-ekin lotutako bere kolaboratzailea uzten bazuen. Eroskeria zela esan zuen. Ezetz esan zuen. OpenAIk dio, kategorikoki, bere Codex-eko gonbidapenek ezin zutela sisteman eragin. Ez dago konbentzituta. Andreas Thomek oraindik ere galdetzen du ea ChatGPT-ren bere lanari buruzko txatek geroago horren gainean eraiki zen eredua elikatu ote zuten. Enpresak bakarrik jakingo luke. Susmoa du haiek ere ez dakitela.
Eta gero kolpea: OpenAI-k dio aurrerapen handiak egin dituela dagoeneko beste Milurteko Sariaren arazo batean. Zein izenik gabe jarraitzen du. Clay-k oraindik komunitatearen onarpen-leiho luzea behar du nolanahi ere. Beraz, inork ez du oraindik "irabazi". Hurrengoarekin lehian ari dira dagoeneko. Polita.
Maiz egiten diren galderak
Zein da Dario Amodei Anthropic-eko zuzendari nagusiak IAren garapena bizkortzeko plana?
Amodeik saiakera luze bat argitaratu zuen industriari moteltzeko eskatuz -ez gelditzeko-, auto-hobekuntza errepikakorra auditoreek eutsi ahal dutena baino azkarrago aurrera egiten ari delako. Lehen urratsa da ebaluatzaile txertatuak Anthropic-era aldebakarrez gonbidatzea, txapa, mahai, ordenagailu eramangarri eta emaitzak PR iragazkirik gabe argitaratzeko eskubidearekin. Ondoren, laborategi demokratikoek segurtasun-arauak koordinatzea nahi du, eta, azkenean, gobernu autoritarioekin akordioren bat egitea. Gainera, antitrust salbuespen estu bat nahi du, segurtasun-negoziazioak beraiek arazo legal bat izan ez daitezen.
Zergatik esan zuen Sam Altmanek OpenAIk ez duela burtsara aterako aurten?
Elkarrizketa esklusibo batean, Altmanek esan zuen oraintxe bertan burtsara ateratzea une desegokia litzatekeela, segurtasun lana, lerrokatzea eta gizartearen prestutasuna amaitu gabe daudelako. Presioa jaso zuenean, baieztatu zuen ez zela aurten izango, bankariak inguruan zebiltzan eta fitxategi konfidentzial bat egon arren. Irabazi-asmorik gabeko/irabazi-asmorik gabeko egitura existitzen dela argudiatu zuen, OpenAIk akziodunen intereserako ez diren deiak egin ahal izateko. Halaber, esan zuen gizakien kontroletik kanpo IA eraikitzea guztiz posible dela eta zin egin zuen prestakuntza eten egingo zuela bidea hori balitz.
Altmanek beste IA laborategi batzuekin segurtasun itun baten berri eman al zuen?
Elkarrizketa berean, Altmanek esan zuen uste duela Amodei, Musk eta Demis Hassabis bezalako parekoekin bilera bat egingo dela, baina ez zuen aurrez elkarrizketa pribatuak iragarri nahi izan. Argudiatu zuen bi zifrako arrisku katastrofikoa ez dela onargarria eta oraindik argitaratu gabeko modeloak hain gai direla, ezen monitorizazio hobea gabe gehiago bultzatzea arduragabea dela. Langileek barne-bertsio bat entzun zuten dagoeneko, beraz, iruzkin publikoek koordinazioaren aurreikuspena izan dezakete, itun amaitu bat berretsi beharrean.
Bete al dezake OpenAI-k Anthropic-en ebaluatzaile txertatuen konpromisoa?
Amodeiren saiakeraren ondorengo ordu batzuk, Altmanek argitaratu zuen OpenAIk ebaluatzaile txertatuaren konpromisoa langileen antzeko sarbidearekin lotuko duela eta xehetasun gehiago laster. Elon Muskek idatzi zuen Dariok arrazoia duela, hiru zuzendari nagusi lehiakide lelo berdin batekin jarriz. Hugging Face-k ebaluatzaile programan sartzeko eskatu zuen eta Open Alignment Initiative bat abiarazi zuen. Europak ezin du Amodeik proposatutako AEBetako estiloko antitrust salbuespen bera eskaini, beraz, esku-ematea batez ere amerikarra da oraingoz.
Zergatik kritikatzen dute matematikariek OpenAIren Navier-Stokes sprinta?
Matematikariek OpenAIren hamar mila agente inguruko eta laurogeita zortzi orduko Navier-Stokes lasterketa garaikurren bilaketa gisa deskribatzen dute, non lehentasuna ematen zaion irabazteari ikuspegiari baino. Tristan Buckmasterrek esan zuen OpenAIk konputazio mugagabea eta egiletza esklusiboa eskaintzen zizkiola Anthropic-ekin lotutako kolaboratzaile bat kentzen bazuen; eroskeria zela esan eta uko egin zion. OpenAIk dio bere Codex-eko eskaerek ezin zutela sisteman eraginik izan, baina ez dago konbentzituta oraindik. Andreas Thomek oraindik ere galdetzen du ea ChatGPT-k bere lanari buruz hitz egiten duen geroagoko modeloaren aurrerapenari laguntzen dion.
OpenAI-k aurrerapena aldarrikatu al du beste Milurteko Sariaren arazo batean?
OpenAI-k dio aurrerapen handiak egin dituela dagoeneko beste Millennium Prize arazo batean, baina ez du zein den izendatuko. Clay Mathematics Institute-k oraindik komunitatearen onarpen epea luzea behar du, beraz, inork ez du ofizialki irabazi oraindik. Eremuaren barruan, sekretu horrek eta lehenagoko Navier-Stokes lasterketak laborategiak hurrengo garaikurra lortzeko lasterka ari direla dirudi. The Verge-ko elkarrizketek tentsioa matematikariek ikuspegi bat nahi dutela eta OpenAI-k irabazi nahi duela adierazten dute.