Nvidia zaprezentowała nowe rozwiązania bezpieczeństwa wykorzystujące sztuczną inteligencję, które mają ograniczać ryzyko związane z działaniem autonomicznych agentów AI. Firma przekonuje, że opracowana technologia pozwala monitorować zachowanie systemów w czasie rzeczywistym i zatrzymywać je, gdy przekroczą wcześniej określone granice bezpieczeństwa.
Nowe narzędzia Nvidia mają monitorować agentów AI
Producent układów wykorzystywanych w centrach danych i systemach sztucznej inteligencji udostępnia dwa nowe narzędzia programistyczne, które mogą działać na sprzęcie Nvidia. Ich zadaniem jest nadzorowanie agentów AI podczas wykonywania powierzonych im operacji.
System został zaprojektowany tak, aby na bieżąco analizować działania agentów i reagować w sytuacji, gdy naruszają one ustalone reguły. W takim przypadku możliwe jest natychmiastowe przerwanie działania systemu.
Rozwiązanie ma zwiększyć kontrolę nad coraz bardziej autonomicznymi modelami, które mogą wykonywać wieloetapowe zadania przy ograniczonym udziale człowieka.
Nvidia wskazuje na incydent związany z Hugging Face
Justin Boitano, wiceprezes Nvidia ds. AI dla firm, powiedział podczas spotkania z dziennikarzami poprzedzającego prezentację technologii, że zastosowanie takich zabezpieczeń już na etapie testowania modeli mogłoby ograniczyć skutki niedawnego incydentu dotyczącego Hugging Face.
Według przedstawiciela Nvidia, gdyby laboratoria badawcze wykorzystywały tę technologię podczas testów, atak na Hugging Face mógłby zostać powstrzymany. Boitano zaznaczył również, że zgodnie z wiedzą firmy nowa platforma bezpieczeństwa byłaby w stanie zapobiec naruszeniu.
Incydent stał się kolejnym elementem szerszej dyskusji dotyczącej zagrożeń związanych z autonomicznymi systemami sztucznej inteligencji oraz sposobów sprawowania nad nimi skutecznego nadzoru.
Open Agent Safety Platform odpowiedzią na rosnące ryzyko
Nvidia rozwija swoje rozwiązania w ramach Open Agent Safety Platform. Założeniem platformy jest stworzenie technicznych zabezpieczeń umożliwiających dalszy rozwój zaawansowanych modeli AI bez rezygnowania z mechanizmów kontroli.
Znaczenie takich technologii rośnie wraz z popularyzacją agentów AI zdolnych nie tylko do generowania treści, ale również do samodzielnego korzystania z narzędzi, wykonywania poleceń i podejmowania kolejnych działań w ramach złożonych procesów.
Dla przedsiębiorstw wdrażających sztuczną inteligencję oznacza to nowe wyzwania związane z cyberbezpieczeństwem. Mechanizmy nadzoru muszą bowiem wykrywać niepożądane zachowania odpowiednio wcześnie, zanim system zdąży wykonać potencjalnie szkodliwe operacje.
Jensen Huang stawia na techniczne zabezpieczenia AI
Prezes Nvidia Jensen Huang przedstawiał w ostatnich dniach bezpieczeństwo sztucznej inteligencji przede wszystkim jako wyzwanie techniczne. Jego zdaniem istotną rolę w ograniczaniu zagrożeń powinny odgrywać rozwiązania opracowywane przez inżynierów.
Huang wielokrotnie sceptycznie odnosił się do scenariuszy zakładających utratę przez człowieka kontroli nad sztuczną inteligencją. Jednocześnie podkreślał znaczenie rygorystycznego testowania modeli oraz tworzenia skutecznych mechanizmów bezpieczeństwa.
Wraz z prezydentem USA Donaldem Trumpem sprzeciwiał się opiniom części przedstawicieli branży AI, którzy ostrzegają przed najbardziej skrajnymi konsekwencjami rozwoju sztucznej inteligencji, w tym potencjalnym zagrożeniem dla ludzkości.
Nie wiadomo, czy OpenAI i Anthropic wykorzystają platformę
Pozostaje otwarte pytanie, jak szeroko nowe zabezpieczenia Nvidia zostaną przyjęte przez największe laboratoria rozwijające modele sztucznej inteligencji.
Boitano nie odpowiedział na pytanie, czy OpenAI lub konkurencyjna Anthropic PBC zamierzają wdrożyć system Nvidia do monitorowania procesów związanych ze szkoleniem swoich modeli. Ostateczna decyzja należy do poszczególnych firm.
Nowa platforma pokazuje jednak, że wraz ze wzrostem możliwości autonomicznych systemów AI rozwija się również rynek technologii służących do ich kontrolowania. Dla Nvidia bezpieczeństwo staje się kolejnym obszarem infrastruktury sztucznej inteligencji, obok procesorów, centrów danych i oprogramowania potrzebnego do trenowania oraz obsługi zaawansowanych modeli.
Witold Gombrowicz jest autorem publikującym na portalu humanmag.pl, gdzie porusza tematy związane z aktualnościami, polityką, biznesem, technologią, sportem, rozrywką i stylem życia. Skupia się na przejrzystym przedstawianiu faktów, dostarczaniu użytecznych informacji oraz opisywaniu wydarzeń i historii istotnych dla czytelników w rzetelny i przystępny sposób.