Rząd USA bierze pod lupę gigantów AI, aby chronić infrastrukturę przed atakami hakerów

Najwięksi liderzy technologii, tacy jak Google DeepMind, Microsoft oraz xAI, będą udostępniali swoje najbardziej zaawansowane modele typu frontier amerykańskiemu Centrum Standardów i Innowacji AI (CAISI). Jak podaje theguardian.com ta strategiczna kooperacja ma na celu rygorystyczne przetestowanie systemów pod kątem zagrożeń dla bezpieczeństwa narodowego – od cyberataków po ryzyka związane z bronią biologiczną – jeszcze zanim trafią one do publicznego użytku. USA postawiło na transparentność amerykańskich firm tworzących rozwiązania AI wobec organów państwowych.

Dlaczego „surowe” modele trafiają do rządu?

Praktyka udostępniania niewydanych jeszcze systemów AI agencjom rządowym dzięki decyzji amerykańskich władz staje się nowym standardem w branży technologicznej. Co istotne, eksperci z CAISI otrzymują dostęp do wersji modeli z celowo zredukowanymi zabezpieczeniami. Pozwala to na przeprowadzenie testów „stresowych”, które obnażają realne możliwości algorytmów w środowisku pozbawionym filtrów etycznych.

Współpraca ta nie jest jedynie biurokratycznym wymogiem, ale odpowiedzią na realne obawy. Jak zauważył Chris Fall, dyrektor CAISI:

Niezależna, rygorystyczna nauka o pomiarach jest niezbędna do zrozumienia modeli klasy 'frontier AI’ i ich implikacji dla bezpieczeństwa narodowego.

Tego typu podejście pozwala na identyfikację luk, które w rękach cyberprzestępców mogłyby sparaliżować infrastrukturę krytyczną państwa.

PRZECZYTAJ TAKŻE: Gdzie studiować AI w Polsce?

Ryzyko egzystencjalne i projekt Glasswing

Obawy dotyczące potęgi nowych modeli, takich jak Mythos od firmy Anthropic, nie są bezpodstawne. Istnieje realne ryzyko, że AI o tak ogromnym potencjale mogłaby zostać wykorzystana do projektowania broni chemicznej lub automatyzacji ataków hakerskich na niespotykaną dotąd skalę. W odpowiedzi na te zagrożenia powstały inicjatywy takie jak Project Glasswing, mające na celu konsolidację wysiłków sektora prywatnego w ochronie najważniejszego oprogramowania na świecie.

Wspólna odpowiedzialność za bezpieczeństwo

Mimo początkowych obaw o spowolnienie innowacji, liderzy tacy jak Microsoft podkreślają, że skala wyzwań przerasta możliwości pojedynczych firm, dlatego potrzebne jest także wsparcie legislacyjne.