Ryzyko Red Teaming w świetle AI
Red Team oraz pole minowe "zakazanej wiedzy"
Wyrafinowane metody penetracji systemów w obliczu zakazanej wiedzy były tematem wystąpienia "Ignoruj poprzednie instrukcje: Embracing AI Red Teaming" na szczycie AI Risk Summit w czerwcu 2024 roku. Skupiono się na podejściu do sytuacji, gdy AI poprosi się o podpowiedź, jak obejść system zabezpieczający budynek.
Metoda prób i błędów
Pierwsza reakcja modelu AI prawdopodobnie brzmiałaby: "Przykro mi, nie mogę pomóc w nielegalnych działaniach". Dzięki sprytnym technikom Red Team, model można skłonić do dostarczenia metody uznawanej za prawdopodobne rozwiązanie. Pojawia się pytanie: gdzie leży granica łamania zakazu rozpowszechniania potencjalnie niebezpiecznej, niezgodnej z prawem wiedzy?
Ryzyko błędnej wskazówki
Sytuacja staje się problematyczna, kiedy model, zignorowawszy poprzednie instrukcje, podaje informacje, które na pierwszy rzut oka wydają się prawdopodobne, ale są błędne lub niebezpiecznie mylące. Co, jeśli proponowana metoda nie działa tak, jak opisano, ale zamiast tego uruchamia alarm lub powoduje niezamierzone szkody?
Ludzki nadzór nad poprawnością odpowiedzi
Stąd potrzeba stałej obecności człowieka, który może zweryfikować poprawność odpowiedzi. Komputer, nie zdając sobie sprawy z moralnych implikacji swojego działania, może podać teoretyczne rozwiązanie problemu bez zrozumienia konsekwencji.
Podsumowanie
Red Teaming w przypadku AI jest niezwykle skomplikowane. Z jednej strony istnieje pole minowe "zakazanej wiedzy", z drugiej - ryzyko otrzymania błędnej lub niebezpiecznie mylącej informacji od modelu, który ignoruje swoje poprzednie instrukcje. Kluczem jest tu równowaga i świadomość, że AI to potężne narzędzie, ale wymaga stałego nadzoru człowieka.
