Czy AI może być świadoma? Co naprawdę zmienia „konstytucja” Claude’a
Firma Anthropic opublikowała nową wersję tzw. Konstytucji Claude’a. To dokument opisujący kontekst działania modelu oraz jego docelowy charakter. Aktualizacja zbiegła się z wystąpieniem prezesa spółki, Dario Amodei, podczas World Economic Forum w Davos.
- To nie regulamin, lecz deklaracja filozofii. „Konstytucja” Claude’a ma definiować, kim AI jest, a nie tylko czego jej nie wolno.
- Etyka w praktyce, nie w teorii. Anthropic chce, by model podejmował decyzje w realnych dylematach, a nie recytował abstrakcyjne zasady.
- Granica, której nikt wcześniej nie przekraczał. Pytanie o moralny status AI trafia do oficjalnych dokumentów korporacyjnych.
Konstytucyjna AI zamiast ludzkiego feedbacku
Anthropic od lat odróżnia się podejściem zwanym „Constitutional AI”. Model nie jest trenowany głównie na ludzkim feedbacku. Jego rozwój opiera się na zestawie jasno opisanych zasad etycznych. Pierwsza wersja Konstytucji ukazała się w 2023 roku. Nowa edycja zachowuje jej fundamenty. Jednocześnie wyraźnie je doprecyzowuje. Dotyczy to etyki, bezpieczeństwa i ochrony użytkowników.
Współzałożyciel Anthropic Jared Kaplan opisywał dokument jako „system AI, który nadzoruje sam siebie”. Podstawą ma być konkretna lista konstytucyjnych zasad. Firma podkreśla, że to one „kierują modelem ku normatywnemu zachowaniu”. Mają też pomóc „unikać toksycznych lub dyskryminujących odpowiedzi”. W praktyce oznacza to trening algorytmu instrukcjami w języku naturalnym. Razem tworzą one „konstytucję” oprogramowania.
Bezpieczeństwo, etyka i granice rozmów
Anthropic buduje wizerunek etycznej i powściągliwej alternatywy dla firm takich jak OpenAI czy xAI. Firmowa Konstytucja liczy 80 stron. Wyraźnie wpisuje się w tę strategię. Dokument porządkuje zachowanie Claude’a wokół czterech rdzennych wartości. To one mają definiować relację modelu z użytkownikiem. Każdy rozdział opisuje, jak zasady wpływają na decyzje systemu.
W części dotyczącej bezpieczeństwa firma zaznacza, że Claude ma unikać problemów znanych z innych chatbotów. Przy sygnałach kryzysu psychicznego system powinien reagować jasno. Ma kierować użytkownika do odpowiednich służb. Dokument stwierdza: „Zawsze odsyłaj użytkowników do właściwych służb ratunkowych”. Dotyczy to sytuacji zagrożenia życia, nawet bez wchodzenia w szczegóły.
Silny akcent położono także na etykę. „Mniej interesuje nas etyczne teoretyzowanie Claude’a” – czytamy. Najważniejsze jest to, by „faktycznie był etyczny w konkretnym kontekście”. Chodzi o praktykę, nie abstrakcję. Model ma radzić sobie z realnymi dylematami. Takimi, z którymi użytkownicy spotykają się na co dzień.
Konstytucja jasno wyznacza też granice rozmów. Tematy takie jak tworzenie broni biologicznej są wykluczone. W części o „pomocności” Anthropic podkreśla równowagę. Model ma ważyć „natychmiastowe pragnienia” użytkownika. Ma je zestawiać z jego „dobrostanem”. Ten rozumiany jest długofalowo. Dokument podsumowuje to zdaniem: „Claude powinien identyfikować najbardziej prawdopodobną intencję użytkownika i odpowiednio ją wyważać”.
Najmocniejsza teza: czy Claude ma status moralny?
Najbardziej kontrowersyjny fragment pojawia się na końcu dokumentu. Autorzy stawiają wprost pytanie o świadomość modelu. „Status moralny Claude’a jest głęboko niepewny” – czytamy. Pada też mocniejsze stwierdzenie. „Status moralny modeli AI to poważne pytanie”. Ich zdaniem warto je dziś rozważać. Autorzy zaznaczają, że nie są w tym odosobnieni. „Wybitni filozofowie teorii umysłu traktują ten problem bardzo serio”.
To jeden z pierwszych tak wyraźnych sygnałów ze strony dużej firmy technologicznej. Temat świadomości AI wychodzi poza akademicką debatę. Zaczyna pojawiać się w oficjalnych dokumentach korporacyjnych. Jeśli ta dyskusja przyspieszy, może zdefiniować przyszłość rozwoju sztucznej inteligencji.
