Anthropic kontra Trump
Anthropic to spółka, która już tworzy jeden z najpotężniejszych modeli sztucznej inteligencji, a przy okazji jako jedna z nielicznych kieruje się wartościami, a nie pędzi bezmyślnie przed siebie mając na oczach klapki zrobione z dolarów. Jej mottem jest bowiem tworzenie „rozsądnego AI”, a w przestrzeni publicznej często nazywa ją się tą najbardziej moralną z branży.
To właśnie ona i jej CEO, Dario Amodei postawili się amerykańskiej administracji, ośmielając się stawiać warunki współpracy, a nie tylko oddając swój model z pochyloną głową. Pete Hegseth, sekretarz Departamentu Wojny już wyciągnął wobec firmy konsekwencje, dając jej jasny sygnał, że „albo jesteś z nami, albo przeciwko nam”. Decyzja ta może zresztą się okazać szalenie istotna nie tylko dla samej spółki, ale całego sektora sztucznej inteligencji i dziś między innymi opowiemy sobie dlaczego.
Zacznijmy więc od tego, co najbardziej aktualne, czyli od afery z Departamentem Wojny, który swoją drogą jeszcze do niedawna nazywał się oficjalnie Departamentem Obrony, ale widocznie to brzmiało za mało groźne. Lub, patrząc na ostatnie wyczyny Stanów Zjednoczonych, była to nazwa zbyt mało adekwatna do podejmowanych działań. Ów Departament na zasadzie kontraktów wartych setki milionów dolarów nawiązuje współprace z wieloma spółkami technologicznymi. Jakiś czas temu jedną z takich umów dogadał właśnie z Anthropiciem.
Departament Wojny oczekuje, że każdy z jego kontrahentów udostępni swoje produkty do użytku zgodnego z ramami prawa. To szerokie pojęcie i choć w teorii gwarantuje działania legalne, to nie zawsze moralnie słuszne. Anthropic wiedział z czym może się to wiązać, dlatego nie zgodził się na wszystko. Był skłonny udostępnić swój najlepszy model Claude Departamentowi Wojny, ale pod dwoma zastrzeżeniami. Model ten nie mógł być wykorzystywany zarówno do inwigilacji amerykańskiego społeczeństwa, jak i do tworzenia broni autonomicznej.
Amerykańska administracja na takie warunki godzić się nie chciała. W pierwszej kolejności spółce zaproponowano nową umowę, która jednak sprawy nie rozwiązywała. Zdaniem Anthropic była po prostu sprytnie przepisana. Tak skomentował ją rzecznik spółki:
„Nowe zapisy przedstawiane jako kompromis zostały zestawione z prawniczym żargonem, który pozwalałby te zabezpieczenia dowolnie ignorować.”
W efekcie swojej nieustępliwości Anthropic musiał liczyć się także z groźbami. Według uznanych źródeł takich jak na przykład The Economist Pete Hegseth zagroził spółce, że jeśli ta dobrowolnie nie zgodzi się na standardowe warunki współpracy, to te zostaną na niej wymuszone. Administracja miałaby powołać się na ustawę Defense Production Act. Ta daje administracji niejako moc przymuszenia danej spółki do współpracy pod pretekstem bezpieczeństwa narodowego.
Wówczas jednak spółka musi liczyć się z tym, że współpraca taka będzie odbywała się na warunkach gorszych od tych wynegocjowanych z standardowych rynkowych warunkach. A na tym groźby miały się nie skończyć. Anhtropikowi zagrożono także tym, że spółka zostanie uznana za zagrożenie dla państwowego łańcucha dostaw. To z kolei ograniczyłoby jej możliwości współpracy z innymi rządowymi kontrahentami. Sens tych gróźb w swoim oświadczeniu dobrze podsumował CEO, Dario Amodei:
„Te groźby są wewnętrznie sprzeczne: jedna określa nas jako zagrożenie dla bezpieczeństwa; druga uznaje Claude za kluczowy dla bezpieczeństwa narodowego”
Co ciekawe, tego samego zdania jest Dean Bell, były doradca w administracji Donalda Trumpa ds. sztucznej inteligencji. Ten również zaznaczył, że groźby są niespójne. Ostrzegł także, że zerwanie rządowej współpracy z Anthropic zaszkodziłoby celom administracji w zakresie bezpieczeństwa narodowego i technologii.
Poza tym, stawianie swoich warunków to niejedyny problem, który obecna administracja ma z Anthropic. Wall Street Journal zwraca uwagę na to, że firma zatrudnia osoby powiązane z byłą administracją Joe Bidena, a dodatkowo jest wspierana przez wyraźnie liberalnych darczyńców. Już wcześniej zarzucano jej tworzenie „woke AI”, które obecni rządzący chcieli zwalczać. Gdyby jej model Claude nie był tak dobry, prawdopodobnie prezydent i jego świta już dawno przestaliby współpracować z Anthropic. Ten ma jednak ogromny potencjał. Dość powiedzieć, że był pierwszym modelem dopuszczonym do pracy w środowiskach niejawnych i miał być używany zarówno przy misji schwytania Nicolasa Maduro, jak i przy ostatnich nalotach na Iran.
Ale już nie jest jedynym takim modelem. W piątek, prawdopodobnie poniekąd właśnie w wyniku konfliktu z Anthropic, ogłoszona została współpraca administracji z OpenAI, na mocy której to modele tej spółki będą teraz wykorzystywane do działań wojskowych w środowiskach niejawnych. Timing tej decyzji sprawił, że OpenAI łatwo było przylepić łatkę „tej złej spółki bez moralnych skrupułów”, która po prostu wchodzi na miejsce Anthropic, bo dla niej granic w użyciu jej modeli nie ma. Z tą retoryka próbował walczyć CEO OpenAI, Sam Altman. Ten przyznał, że umowa z Pentagonem została sporządzona tak, by modele spółki nie były wykorzystywane do inwigilacji Amerykanów. Wprost stwierdził też, że w związku z medialną burzą timing jest dla wizerunku jego spółki niekorzystny:
„Jedna rzecz, którą zrobiliśmy źle: nie powinniśmy byli spieszyć się z ogłoszeniem tego w piątek. Sprawy są bardzo złożone i wymagają jasnej komunikacji. Naprawdę próbowaliśmy deeskalować sytuację i uniknąć znacznie gorszego scenariusza, ale wyszło to na oportunistyczne i chaotyczne”
Pojawiają się także doniesienia, że te zadania, które miałby wykonywać Claude, w przejmie również Grok od xAI, którym zarządza Elon Musk. Ten stawia rozwój na pierwszym miejscu i ma mniejsze wątpliwości od Anthropic co do bezpieczeństwa sztucznej inteligencji. To z kolei budzi pewne obawy. Jak niedawno informował Wall Street Journal, część amerykańskich ustawodawców niewymienionych z imienia i nazwiska ma mieć wyraźne wątpliwości co do słuszności używania Groka w tak poważnych sprawach.
Źródło przypomina, że model jeszcze niedawno siał spustoszenie w mediach społecznościowych. Sam określał się mianem „MehaHitlera” i rozpowszechniał treści antysemickie oraz rasistowskie. Co prawda od tamtego czasu Musk i jego ludzie wprowadzili zmiany w modelu, które miały sprawić, że ten zaprzestanie takich działań, ale wątpliwości pozostały.
Sam Musk zresztą nie omieszkał skomentować podejścia Anthropic do całej sprawy. Na swoim portalu X.com udostępnił fragment starszej wersji statutu spółki, w którym była mowa o „udzielaniu odpowiedzi, które mają jak najmniejszą szansę na urażenie użytkowników spoza tzw. zachodniego kręgu kulturowego. Musk opatrzył to krótkim, acz wymownym komentarzem:
„Anthropic nienawidzi Zachodniej Cywilizacji”
Jak widać, cała sprawa ewoluowała z biznesowych negocjacji do publicznej opery mydlanej. A jak zakończyła się dla Anthropic? Spółka stanęła przy swoim, w efekcie czego faktycznie została wrzucona przez administrację Donalda Trumpa na czarną listę spółek. Sam prezydent USA w bardzo mocnych słowach wypowiadał się o firmie:
„STANY ZJEDNOCZONE AMERYKI NIGDY NIE POZWOLĄ, BY RADYKALNIE LEWICOWA, „WOKE” FIRMA DYKTOWAŁA, JAK NASZA WIELKA ARMIA MA WALCZYĆ I WYGRYWAĆ WOJNY! […]Lewicowi fanatycy z Anthropic popełnili KATASTROFALNY BŁĄD, próbując WYWRZEĆ PRESJĘ na Departament Wojny [...] Ich egoizm naraża AMERYKAŃSKIE ŻYCIA, wystawia naszych ŻOŁNIERZY na niebezpieczeństwo i stawia nasze BEZPIECZEŃSTWO NARODOWE w STANIE ZAGROŻENIA.
W tym samym wpisie Donald Trump wyraźnie polecił wszystkim federalnym agencjom i instytucjom by zaprzestały korzystania z narzędzi Anthropic najszybciej jak się tylko da. Dla niektórych byłoby to szalenie trudne do zrobienia ze skutkiem natychmiastowym dlatego prezydent zarządził szcześciomiesięczny okres wygaszania współpracy. Trump zagroził także Anthropicowi, że jeśli ten nie będzie grzecznie pomagał przy tym procesie, to zostanie ukarany w większym wymiarze.
Z jednej strony takie ograniczanie współpracy może być ciosem finansowym dla spółki, zamykającym drzwi do kolejnych kontraktów. Ale są też pozytywy. Anthropic został przez to całe zamieszanie i swoją niezłomną postawę świetnie wypromowany. Na Reddicie szybko pojawił się wątek, w którym użytkownicy platformy zgodnie twierdzą, że konflikt spółki z Departamentem Wojny to jej najlepsza jak do tej pory reklama. Pierwsze efekty tego umyślnego bądź nie chwytu marketingowego już widać.
W ciągu ostatnich kilku dni Claude, czyli chatbot od Anthropic objął pierwsze miejsce na App Store pod względem ilości pobrań. Liczba pobrań w tydzień skoczyła o 48%. Tym samym przebił nawet ChataGPT od OpenAI, co wcześniej nigdy mu się nie udało. Mało tego, na początku tego tygodnia Claude miał problemy z funkcjonowaniem z powodu tak dużej popularności. Spółka szybko wyjaśniła, że apka na chwilę przestała działać z powodu „bezprecedensowego popytu”. Za to OpenAI, które w tej samej aferze wyszło na „tą złą spółkę AI”, od użytkowników mocno oberwało. Według danych Sensor Tower liczba usunięć ChataGPT miała wzrosnąć o blisko 300%.
Wall Street Journal zwraca uwagę na to, że konsekwencje całego zamieszania wykraczają daleko poza sam Anthropic. W przestrzeni publicznej dochodzi bowiem do kolejnego podziału, tak jakby Ameryka była niewystarczająco spolaryzowana. W jednej grupie znajdują się politycy, badacze naukowcy i zwykli użytkownicy, który wspierają Anthropic i jego racjonalne podejście do rozwoju. Dołączyła do niej nawet nie mająca zbyt wiele wspólnego z tym tematem popularna wokalistka Katy Perry, która w mediach społecznościowych oznajmiła, że sama zaczyna na co dzień korzystać z Claude kosztem innych narzędzi AI.
Z kolei po drugiej stronie barykady mamy przeciwników regulacji i zwolenników bezkompromisowego rozwoju. Można się spodziewać, że niedługo do tych obozów zaczną przyłączać się kolejne znane nazwiska. W Dolinie Krzemowej pracownicy innych spółek z sektora sztucznej inteligencji szykują petycję do zarządów, by te kierowały się podobnymi ideałami co Anthropic. Już ponad 800 pracowników działających na przykład dla Google czy OpenAI miało złożyć swoje podpisy. Ciekawe, na ile ta inicjatywa okaże się skuteczna.
Claude najlepszym modelem na rynku?
Jak już przy szale na Claude jesteśmy, to warto nieco pochylić się nad tym modelem, bo ten uchodzi za lidera lub jednego z liderów rynku. Według klasyfikacji portalu AI Analytics jest obecnie najlepiej rozumującym modelem. Nieznacznie przebija modele od OpenAI czy Google. Z kolei według badaczy ze Scale.ai narzędzia Anthropic mają być także najbardziej uczciwe na rynku. Nie halucynują, nie kombinują, gdy czegoś nie wiedzą, tylko przyznają to wprost. Dzięki temu rzadziej wprowadzają w błąd.
Szczególnie w ostatnim czasie twórcy zaliczyli wyraźny progres w wydajności swoich narzędzi. To właśnie jednemu z nich przypisuje się wywołanie wyraźnej korekty na giełdzie sprzed kilku tygodni. Na początku lutego Anthropic zaprezentował wtyczkę do narzędzia Cowork, która automatyzowała część zadań związanych z redagowaniem dokumentów i badaniami prawnymi. Akcje spółek software’owych, które zajmowały się dotąd tworzeniem takich narzędzi, poleciały w dół o 10 lub nawet więcej procent. Wkrótce to przekonanie rozlało się na w zasadzie wszystkie spółki zajmujące się tworzeniem ogólnie pojętego oprogramowania.
W efekcie media mówiły o łącznej stracie aż 300 miliardów dolarów kapitalizacji rynkowej indeksów tego sektora. Ostatecznie wpłynęło to też na całą giełdę. Notowania S&P 500 od wtorku 3 lutego do czwartku 5 lutego poleciały łącznie o ponad 2,5%. Innym razem, gdy Anthropic wypuścił narzędzie do lokalizowania i łatania dziur w systemach cyberbezpieczeństwa, w dół poleciały kursy spółek właśnie z tej branży.
Naukowcy i inżynierowie z Doliny Krzemowej zachwycają się także tym, jak dobrze koduje Claude. Przede wszystkim wrażenie ma robić jego autonomia w realizowaniu projektów programistycznych. Niklas Gustavsson, wiceprezes ds. inżynierii w streamingowym gigancie Spotify wyjawił niedawno, że z Claude’a do kodowania korzysta już około dwie trzecie jego pracowników. Przyznał też, że od kiedy model jest powszechnie używany, w spółce poprawiło się kilka miar efektywności. Sam Anthropic twierdzi, że od kiedy jego inżynierzy, sami korzystają z Claude do kodowania, ich produktywność wzrosła o 200%.
Jak działa Anthropic?
Tę efektywność i produktywność całego zespołu widać po ilości i jakości wypuszczanych narzędzi. Spółka zatrudnia tylko około 2 tysiące osób. To 2 razy mniej od OpenAI i kilkanaście razy mniej od technologicznych gigantów również zajmujących się sztuczną inteligencją, jak na przykład Google. Pomimo tak ograniczonej kadry Anthropic tylko w styczniu tego roku wypuścił 30 wtyczek i narzędzi do swoich produktów. A to wszystko przy dużym skupieniu na to, by przy tym całym rozwoju nie zapomnieć o kluczowych pryncypiach.
Dario Amodei, CEO spółki ma dwa razy w miesiącu organizować wideorozmowy z pracownikami, w trakcie których nie tylko opowiada o postępach, ale także jak mantę powtarza, że zespół musi tworzyć godne zaufania narzędzia zgodne z ludzkimi wartościami. Na łamach Bloomberga czytamy, że zdaniem osób bliskich firmie atmosfera w niej panująca przypomina bardziej kult, a nie korporację. Niezależnie pytani na wyrywki pracownicy zawsze odpowiadają podobnie na pytanie, dlaczego pracują akurat w tej firmie – „Po to, by sztuczna inteligencja była bezpieczna”.
I jak się okazuje, takie podejście faktycznie pozwala na skuteczną rekrutację specjalistów, nawet z bezpośredniej konkurencji. Temu zjawisku przyjrzeli się analitycy SignalFire. Wyniki ich badań są zdumiewające. Okazuje się, że przejście inżyniera z OpenAI do Anthropic jest 8 razy bardziej prawdopodobne niż odwrotny transfer. Proporcja ta jest jeszcze bardziej niekorzystna dla działu AI Google. Transfer stamtąd do Anthropic jest 11 razy bardziej prawdopodobny niż w odwrotnym kierunku. W raporcie SignalFire czytamy także, że Anthropic ma większą retencję pracowników od dwóch wspomnianych przedstawicieli konkurencji. Jak zaznaczono we wnioskach, to efekt właśnie podejścia spółki do kwestii bezpieczeństwa, ale także wysokich kompetencji technicznych zespołu oraz faktu, że jest ona wciąż na wczesnym etapie biznesowego rozwoju.
Odeszli z OpenAI, by stworzyć Anthropic
Takie transfery nie dziwią, bo cały Anthropic powstał właśnie jako konsekwencja takiego ruchu. Spółka została założona w 2021 roku przez 7 byłych pracowników OpenAI. Obecny CEO Anthropic, Dario Amodei, pełnił wcześniej w OpenAI rolę wiceprezydenta ds. researchu. Mówi się, że to on był jedną z najważniejszych osób przy tworzeniu modeli GPT2 i GPT3. W tym gronie znalazła się także jego siostra, Daniela Amodei, która również była wysoko postawiona w strukturach OpenAI. Ona z kolei była zatrudniona na stanowisku wiceprezydenta ds. bezpieczeństwa. No i właśnie o to bezpieczeństwo w głównej mierze poszło.
W pewnym momencie OpenAI zaczęło się coraz bardziej komercjalizować. Presja inwestorów np. takiego Microsoftu wymuszała coraz szybszy rozwój sztucznej inteligencji, a bezpieczeństwo nie było przy tym priorytetem. W pewnym momencie rozbieżności stały się już na tyle duże, że część trzonu twórców odeszła, tworząc konkurencyjny startup, którego głównymi wartościami stały się rozwaga i bezpieczeństwo. Spółka w ostatniej aferze z amerykańską administracją nie pierwszy raz pokazała, że trzyma się swoich założeń. Mogła być bowiem prekursorem na rynku chatbotów AI, ale nie zdecydowała się na to.
Pierwotna wersja Claude miała być gotowa już latem 2022 roku, na kilka miesięcy zanim swoją premierę miał ChatGPT. Amodei był jednak wówczas przekonany, że model nie jest jeszcze dopracowany właśnie ze względów bezpieczeństwa, dlatego zdecydowano się nie wypuszczać go na hurra, by być pierwszymi, a po prostu poczekać i dopracować. Przez to Anthropic przegrał pierwszy etap wyścigu AI, ale spółka nie postrzega tego jako porażki. Amodei później bronił swojej wcześniejszej decyzji, przyznając, że nie żałuje wstrzymania się z premierą.
Afery wokół Anthropic
Ostatnie doniesienia medialne sugerują, że to bezpieczeństwo nie jest jednak dopięte na ostatni guzik. Według raportu Gambit Security Claude miał zostać wykorzystany do shakowania meksykańskich stron rządowych, w wyniku czego skradziono 150 gigabajtów wrażliwych informacji. Autorzy raportu twierdzą, że pierwotnie Claude opierał się hakerowi, ale ostatecznie został zmanipulowany.
Jak można zmanipulować sztuczną inteligencję, zapytacie? Otóż według raportu użytkownik nakazał botowi, by ten wcielił się w rolę testera meksykańskich cyberzabezpieczeń, który ma znaleźć luki w zasiekach państwowych stron. To tzw. jailbreak. Chatboty często wprost zapytane o nielegalne kwestie nie chcą odpowiadać, ale po odpowiednim nakreśleniu im roli czy hipotetycznego scenariusza czasem jednak to robią. Anthropic zbadał te doniesienia i miał zablokować zaangażowanie konta. Spółka dodatkowo zapewniła, że wykorzystuje udane jailbreaki do szkolenia kolejnych modeli, by takie sytuacji nie miały miejsca w przyszłości.
Anthropic, choć chwalony za swoje racjonalne podejście, nie jest nieskazitelny. Od jakiegoś czasu zmaga się z pozwami od różnych wytwórni muzycznych w tym np. Universal Music Group. Ostatni z nich został złożony do kalifornijskiego sądu pod koniec stycznia tego roku. Wydawcy zarzucają Anthropikowi, że ten bezprawnie i bez zgody używał piosenek, które są ich własnością, by trenować swoje modele AI. W ten sposób spiracone miały zostać hity np. Eltona Johna czy The Rolling Stones. Łącznie w ten sposób miało zostać wykorzystanych ponad 20 tysięcy piosenek. Wydawcy domagają się około 3 miliardów dolarów odszkodowania.
IPO Anthropic już wkrótce?
Niewykluczone, że inwestorzy jeszcze w tym roku będą mogli nabyć akcje Anthropic. Sama spółka niczego jeszcze oficjalnie nie ogłosiła, ale Financial Times już w grudniu ubiegłego roku donosił, że IPO jest możliwe nawet w 2026 roku. Anthropic miał już w tym celu wynająć specjalną kancelarię, która zajmuje się takimi procesami. Jednakże w lutym spółka zorganizowała dużą rundę finansowania o łącznej wartości 30 miliardów dolarów. Zdaniem niektórych analityków może ona nieco odłożyć ewentualne plany o wejściu na giełdę w czasie. Ten ruch ustalił obecną wycenę spółki na 380 miliardów dolarów, co czyni ją jedną z najdroższych spółek prywatnych na świecie.
Nie ma wątpliwości, że jeśli Anthropic faktycznie zdecyduje się na wejście na giełdę, będzie to jeden z najgłośniejszych debiutów roku. O miano absolutnie najgłośniejszego może być bowiem ciężko, gdyż według medialnych doniesień IPO w tym roku ma rozważać także OpenAI oraz SpaceX, które od niedawna, po połączeniu z xAI, też jest poniekąd spółką z sektora sztucznej inteligencji. Jak widać, spółki rywalizują nie tylko o rządowe kontrakty. Przekonamy się, jak ta rozgrywka rozstrzygnie się dla teoretycznie najbardziej moralnego z graczy.
Komentarze
Sortuj według: Najistotniejsze
Nie ma jeszcze komentarzy. Skomentuj jako pierwszy i rozpocznij dyskusję