ODyrektor generalny penAI, Sam Altman, opuszcza wewnętrzny komitet utworzony przez firmę, aby doradzać zarządowi w zakresie kluczowych decyzji dotyczących bezpieczeństwa i ochrony w wyścigu o rozwój coraz potężniejszej sztucznej inteligencji.
Utworzona w maju komisja oceniała procesy i zabezpieczenia OpenAI w ciągu 90 dni. opublikowany zalecenia komisji po ocenie z 16 września. Na szczycie listy: ustanowienie niezależnego zarządzania bezpieczeństwem i ochroną.
Altman, który oprócz zasiadania w zarządzie OpenAI jako dyrektor generalny nadzoruje operacje biznesowe firmy, nie będzie już członkiem komisji ds. bezpieczeństwa. Zgodnie z zaleceniami komisji OpenAI twierdzi, że nowemu niezależnemu komitetowi przewodniczyć będzie Zico Kolter, kierownik Wydziału Uczenia Maszynowego na Uniwersytecie Carnegie Mellon, który dołączył do zarządu OpenAI w sierpniu. Innymi członkami komitetu będą współzałożyciel i dyrektor generalny Quora Adam D'Angelo, emerytowany generał armii amerykańskiej Paul Nakasone i była prezes Sony Entertainment Nicole Seligman. Oprócz Altmana komisję opuszczą także prezes zarządu OpenAI Bret Taylor oraz kilku ekspertów technicznych i politycznych firmy.
Dowiedz się więcej: 100 najbardziej wpływowych osób w AI według TIME 2024
Inne zalecenia komisji obejmują wzmocnienie środków bezpieczeństwa, zapewnienie przejrzystości pracy OpenAI i ujednolicenie ram bezpieczeństwa firmy. Powiedział również, że zbada więcej możliwości współpracy z organizacjami zewnętrznymi, takimi jak te, z których korzysta oceń niedawno wydaną serię modeli rozumowania o1 OpenAI za niebezpieczne zdolności.
Komisja ds. Bezpieczeństwa i Ochrony nie jest pierwszą próbą OpenAI stworzenia niezależnego nadzoru. Nastawione na zysk ramię OpenAI, założone w 2019 roku, jest kontrolowane przez podmiot non-profit posiadający „w większości niezależny„Zarząd odpowiedzialny za zapewnienie, że działa zgodnie ze swoją misją polegającą na opracowywaniu bezpiecznych i szeroko korzystnych produktów ogólna sztuczna inteligencja (AGI) — system, który pod wieloma względami przewyższa człowieka.
W listopadzie zarząd OpenAI zwolnił Altmana, powiedzenie Stwierdził, że nie był „konsekwentnie szczery w kontaktach z zarządem, co utrudniało mu wykonywanie obowiązków”. Po buncie pracowników i inwestorów oraz rezygnacji członka zarządu i prezesa firmy Grega Brockmana szybko został przywrócony na stanowisko. jako dyrektor generalny i członkowie zarządu Tonique HélèneTasha McCauley i Ilya Sutskever złożyli rezygnację. Brockman później powrócił na stanowisko prezesa firmy.
Dowiedz się więcej: Kalendarium wszystkich ostatnich oskarżeń przeciwko OpenAI i Samowi Altmanowi
Incydent uwypuklił duże wyzwanie dla rozwijającej się firmy. Krytycy, w tym Toner i McCauley, twierdzą, że posiadanie formalnie niezależnego zarządu nie wystarczy, aby zrównoważyć silne zachęty do zwiększania rentowności, przed którymi stoi firma. Na początku tego miesiąca Reutera poinformował, że trwające wysiłki OpenAI w zakresie zbierania funduszy, które mogą wpłynąć na jego wycenę 150 miliardów dolarówmoże zależeć od zmiany struktury korporacyjnej.
Toner i McCauley uważają, że niezależność zarządu nie jest wystarczająca i że rządy muszą odgrywać aktywną rolę w regulowaniu sztucznej inteligencji. „Nawet przy najlepszych intencjach i bez nadzoru zewnętrznego tego rodzaju samoregulacja w końcu stanie się niemożliwa do wyegzekwowania” – stwierdzili byli członkowie zarządu. napisał w maju w „The Economist”, omawiając listopadową porażkę zarządu OpenAI.
W przeszłości Altman tak robił nawoływał regulacji systemów sztucznej inteligencji, ale OpenAI lobbowało również przeciwko kalifornijskiej ustawie o sztucznej inteligencji, która narzucałaby programistom protokoły bezpieczeństwa. Wbrew stanowisku firmy sprzeciwiło się ponad 30 obecnych i byłych pracowników OpenAI publicznie wspierane faktura.
Utworzenie Komitetu ds. Bezpieczeństwa i Ochrony pod koniec maja następuje po szczególnie burzliwym miesiącu dla OpenAI. Ilja Suckew I Jana Leike'adwóch dyrektorów firmy”superwyrównanieZespół, który skupiał się na tym, aby systemy sztucznej inteligencji przewyższały ludzką inteligencję, ale pozostawały pod kontrolą człowieka, złożył rezygnację. Leike oskarżony OpenAI oświadczyło w poście na X, że przedkłada „genialne produkty” nad bezpieczeństwo. Zespół rozpadł się po ich odejściu. W tym samym miesiącu pojawiło się OpenAI pod ostrzałem za proszenie odchodzących pracowników o podpisanie porozumień, które zapobiegną krytyce spółki i utracie zdobytego kapitału. (OpenAI później powiedział (że przepisy te nie były i nie będą stosowane oraz że w przyszłości zostaną usunięte ze wszystkich dokumentów wyjazdowych).
