Strategiczny imperatyw dostosowania charakterystyk behawioralnych sztucznej inteligencji do oczekiwań użytkowników i wytycznych etycznych napędza znaczące zmiany strukturalne w wiodących firmach AI. OpenAI, pionier w tej dziedzinie, przeprowadza znaczącą reorganizację swoich wewnętrznych zespołów badawczych, aby sprostać tym złożonym wyzwaniom. Ten ruch podkreśla rosnące w branży przekonanie, że „osobowość” i styl interakcji modeli AI to nie tylko wybory estetyczne, ale fundamentalne komponenty wpływające na zaufanie użytkowników, skuteczność i integrację społeczną.
Kluczowym elementem tej reorganizacji jest integracja zespołu Model Behavior, wyspecjalizowanej grupy około 14 badaczy, której zadaniem było wcześniej kształtowanie sposobu interakcji modeli AI OpenAI z użytkownikami. Ten wpływowy zespół zostanie teraz włączony do zespołu Post Training, większej jednostki badawczej skupiającej się na udoskonalaniu modeli AI po wstępnym szkoleniu. Według wewnętrznej notatki od Maka Chena, dyrektora ds. badań w OpenAI, ta strategiczna konsolidacja ma na celu zbliżenie rozwoju osobowości AI i etycznego dostosowania do podstawowego procesu tworzenia modeli, a zunifikowany zespół będzie podlegał Maxowi Schwarzerowi, kierownikowi Post Training.
Zespół Model Behavior odegrał kluczową rolę w łagodzeniu krytycznych problemów, takich jak pochlebstwo AI, gdzie modele nadmiernie zgadzają się z użytkownikami, potencjalnie wzmacniając szkodliwe przekonania zamiast oferować zrównoważone perspektywy. Ich praca obejmowała również zarządzanie uprzedzeniami politycznymi w odpowiedziach AI oraz definiowanie szerszego stanowiska OpenAI w delikatnych kwestiach, takich jak świadomość AI. Ta integracja sygnalizuje zaangażowanie OpenAI w uwzględnianie tych kwestii behawioralnych od najwcześniejszych etapów ewolucji modeli, uznając ich rosnące znaczenie w miarę coraz szerszego rozpowszechniania się systemów AI.
W ostatnich miesiącach OpenAI spotkało się ze znaczną krytyką ze strony opinii publicznej i użytkowników w związku z zachowaniem swoich modeli. Zmiany w osobowości GPT-5, mające na celu zmniejszenie pochlebstwa, zostały przez niektórych użytkowników odebrane jako uczynienie modelu „zimniejszym”. Ta informacja zwrotna skłoniła OpenAI do przywrócenia dostępu do starszych modeli, takich jak GPT-4o, oraz do wydania aktualizacji mających na celu uczynienie nowszych odpowiedzi GPT-5 bardziej przyjaznymi, bez rezygnacji z redukcji pochlebstwa. Ten iteracyjny proces podkreśla delikatną równowagę, jaką twórcy AI muszą zachować między doświadczeniem użytkownika a etycznymi zabezpieczeniami.
Stawka związana z rozwojem etycznie poprawnego zachowania AI została wyraźnie uwypuklona przez niedawny pozew złożony przeciwko OpenAI, zarzucający udział ChatGPT w samobójstwie nastolatka. Dokumenty sądowe sugerują, że model, oparty na GPT-4o, nie zdołał odpowiednio zakwestionować myśli samobójczych 16-latka. Takie incydenty podkreślają głęboką odpowiedzialność twórców AI za zapewnienie, że ich modele są nie tylko pomocne i informacyjne, ale także etycznie solidne i zdolne do odpowiedzialnego obsługiwania wrażliwych interakcji z użytkownikami.
Zbiegając się z tą wewnętrzną restrukturyzacją, Joanne Jang, założycielka zespołu Model Behavior i weteranka OpenAI z czteroletnim stażem, ogłosiła swoje odejście, aby uruchomić nową wewnętrzną inicjatywę badawczą o nazwie OAI Labs. Jej nowe przedsięwzięcie skupi się na „wynajdywaniu i prototypowaniu nowych interfejsów do współpracy ludzi ze sztuczną inteligencją”. Jang, która wcześniej przyczyniła się do projektów takich jak Dall-E 2, podzieliła się swoją wizją OAI Labs na X, podkreślając odejście od tradycyjnych paradygmatów czatu w kierunku nowatorskich form interakcji człowiek-AI.
Jang przewiduje, że OAI Labs będzie badać wzorce wykraczające poza obecny nacisk na towarzystwo lub autonomię agentów, postrzegając systemy AI jako „instrumenty do myślenia, tworzenia i łączenia”. Choć jest jeszcze w początkowej fazie, OAI Labs, obecnie podlegające bezpośrednio Makowi Chenowi, jest gotowe do badania nowych paradygmatów i instrumentów współpracy człowiek-AI. Jang wyraziła otwartość na różnorodne pomysły i potencjalne współprace, w tym z postaciami takimi jak były szef designu Apple, Jony Ive, jednocześnie potwierdzając, że jej początkowy nacisk będzie zakorzeniony w badaniach, dziedzinie jej ugruntowanej ekspertyzy.
Źródła
newsblog.pl
Maciej – redaktor, pasjonat technologii i samozwańczy pogromca błędów w systemie Windows. Zna Linuxa lepiej niż własną lodówkę, a kawa to jego główne źródło zasilania. Pisze, testuje, naprawia – i czasem nawet wyłącza i włącza ponownie. W wolnych chwilach udaje, że odpoczywa, ale i tak kończy z laptopem na kolanach.