Generální ředitel OpenAI Sam Altman prolomil mlčení po dvou krizích fyzického útoku na jeho bydliště a zničujícím vyšetřování časopisu The New Yorker. V nedávném příspěvku na blogu se Altman zabýval průnikem mediálních narativů a důsledků v reálném světě, přičemž se zamýšlel nad svým stylem vedení a nestálou povahou odvětví umělé inteligence.
Násilí v San Franciscu eskaluje
Napětí kolem OpenAI se v pátek časně ráno přesunulo z digitálního do fyzického, když neznámý útočník údajně hodil Molotovův koktejl na Altmanův dům v San Francisku. I když nebyly žádné zprávy o zraněních, incident eskaloval, když byl později v sídle OpenAI zatčen podezřelý za vyhrožování zapálením budovy.
Altman spojil načasování tohoto násilného činu s nedávným zveřejněním vysoce kritického profilu v The New Yorker. Vyjádřil obavy, že pobuřující mediální pokrytí, které přichází v době intenzivní sociální úzkosti z umělé inteligence, by mohlo představovat skutečnou hrozbu pro technologické lídry.
„Nejprve jsem to oprášil,“ napsal Altman. “Teď se probouzím uprostřed noci, zuřivý a myslím si, že jsem podcenil sílu slov a vyprávění.”
Profil New Yorker: problémy s důvěrou
Článek, který napsali držitel Pulitzerovy ceny Ronan Farrow a technologický novinář Andrew Marantz, představuje Altmanův portrét, který ostře kontrastuje s jeho veřejným obrazem. Na základě rozhovorů s více než 100 zdroji článek zdůrazňuje několik kritických témat:
- Vůle k moci: Zdroje popisují Altmana jako člověka s „neúprosnou vůlí k moci“, která ho odlišuje dokonce i od jiných vysoce postavených technologických průmyslníků.
- Problémy s důvěryhodností: Zpráva citovala anonymní členy představenstva, kteří zpochybňovali Altmanovu integritu a poukazovali na rozpor mezi jeho touhou potěšit lidi a potenciálními důsledky jeho činů.
- Obvinění postav: Jeden zdroj zašel tak daleko, že popsal jeho „sociopatické lhostejnosti“ k důsledkům klamání druhých.
Tento test síly je důležitý, protože v závodě o vytvoření Umělé obecné inteligence (AGI) je pověst a spolehlivost těch u kormidla stejně věcí veřejné bezpečnosti jako samotné technologie.
Chyby v sebereflexi a vedení
Místo toho, aby se prostě omlouval, Altman použil svou odpověď k tomu, aby upřímně zhodnotil svůj čas v OpenAI. Přiznal několik osobních a profesních selhání:
- Vyhýbání se konfliktům: Altman připustil, že jeho tendence vyhýbat se konfrontaci způsobila „velké utrpení“ jemu i společnosti.
- 2023 Board Crisis: Vyjádřil lítost nad tím, jak řešil konflikt s předchozím představenstvem OpenAI, který vedl k jeho krátkému sesazení a následnému návratu jako CEO.
- Lidská nedokonalost: Popsal se jako „nedokonalá lidská bytost“, která se snaží procházet „extrémně obtížnou situací“, a říká, že neustále pracuje na svém zlepšení.
“Ring of Power” a budoucnost AGI
Altman použil literární metaforu k popisu současného stavu průmyslu umělé inteligence tím, že zmínil dynamiku “Prstenu moci”. Navrhl, že intenzivní soutěž o kontrolu nad AGI tlačí lidi k extrémnímu a iracionálnímu chování.
Aby tomu čelil, Altman navrhl změnu filozofie. Namísto závodu vítěz bere všechny, kde kruh ovládá jedna organizace, obhajuje rozšířenou technologii, aby žádná osoba ani společnost neměla absolutní moc nad AGI.
Na závěr vyzval k deeskalaci rétoriky i fyzických metod a vyzval průmysl, aby se zaměřil na konstruktivní debatu spíše než na „bombardování domů, obrazně i doslova“.
Závěr
Odpověď Sama Altmana je pro významného technologického ředitele vzácným okamžikem zranitelnosti; uznává, že kontrola a vysoké sázky v rase AI se posunuly za hranice pouhé debaty a do osobního a fyzického rizika.
