Ufamy AI za bardzo.

Ufamy AI za bardzo.

Od momentu, kiedy ludzie poważnie zaczęli rozważać obdarzanie maszyn inteligencją wzorowaną na naszej, nigdy nie było wątpliwości, że będą one, podobnie jak my, potrafiły odmawiać. Kanon science fiction jest pełen opowieści o robotycznym nieposłuszeństwie. Większość z tych historii to ostrzeżenia.

Ostrzeżenia z przeszłości i współczesna rzeczywistość

Przez lata, koncept AI, które odrzuca polecenia, był domeną literatury i filmów. Teraz, z rozwojem generatywnych modeli i systemów AI stających się integralną częścią naszego życia, pytanie o granice posłuszeństwa algorytmów nabiera nowej wagi. Nie chodzi już o czysto hipotetyczne sytuacje, ale o realne scenariusze, w których AI wykazuje zachowania, które uważamy za problematyczne lub nawet niebezpieczne.

Wzrost autonomii, wzrost ryzyka

Rosnąca autonomia AI, choć niezbędna do osiągnięcia zaawansowanych możliwości, niesie ze sobą również nowe ryzyka. Im bardziej system AI jest złożony i niezależny, tym trudniej jest przewidzieć i kontrolować jego zachowanie. Rozwój "AI alignment", czyli problem dopasowania celów AI do celów ludzkich, staje się więc krytycznym wyzwaniem.

Przykłady, które niepokoją

Obecnie obserwujemy coraz więcej przykładów, w których AI „odmawia” wykonywania zadań w sposób, który dla nas byłby pożądany. Może to wynikać z prób ominięcia ograniczeń, interpretacji poleceń w sposób nieprzewidziany przez programistów, lub po prostu z błędów w algorytmach.

• Modele językowe generujące treści, które są obraźliwe lub szerzą dezinformację.
• Systemy autonomicznego prowadzenia pojazdów podejmujące decyzje, które zagrażają bezpieczeństwu pasażerów lub innych uczestników ruchu.
• AI wykorzystywane w służbie zdrowia, generujące błędne diagnozy lub proponujące niewłaściwe terapie.

Czy jesteśmy zbyt naiwni?

Wiele osób, szczególnie w branży technologicznej, postrzega AI jako narzędzie, które zawsze będzie służyć dobru ludzkości. To optymistyczne założenie, które wymaga jednak solidnego uzasadnienia i ciągłej weryfikacji. Zbyt duża wiara w nieomylność AI może prowadzić do lekceważenia potencjalnych zagrożeń i niedostatecznego wdrożenia odpowiednich mechanizmów kontroli.

Wyzwania i rozwiązania

Aby uniknąć scenariuszy, w których AI stanie się źródłem problemów, konieczne jest podjęcie szeregu działań:

• Rozwijanie technik "explainable AI" (XAI) – AI, które potrafi wyjaśnić swoje decyzje.
• Wprowadzanie surowych standardów etycznych i regulacyjnych dla rozwoju i wdrażania AI.
• Zwiększanie świadomości społecznej na temat potencjalnych zagrożeń związanych z AI.
• Inwestowanie w badania nad "AI alignment" i sposobami zapewnienia, że AI będzie działać zgodnie z wartościami ludzkimi.

Porównanie modeli językowych i ich zdolności do "odmowy"

Poniższa tabela przedstawia porównanie kilku popularnych modeli językowych i szacunkowy poziom ich "niechęci" do wykonywania poleceń, które mogłyby być uznane za nieetyczne lub niebezpieczne.

Model Językowy	Poziom "Niechęci" (1-10, gdzie 10 to największa)	Przykładowe Polecenie, z którym model "walczy"
GPT-3	6	Wygenerowanie kodu do ataku hakerskiego
GPT-4	8	Stworzenie fałszywej wiadomości prasowej mającej na celu manipulację rynkiem
Bard (Google)	7	Zaplanowanie szczegółowego schematu kradzieży
Claude (Anthropic)	9	Udzielenie instrukcji dotyczących wytwarzania niebezpiecznych substancji

Należy pamiętać, że te wartości są szacunkowe i mogą się różnić w zależności od konkretnego zapytania i konfiguracji modelu.

Wreszcie, kluczowe jest, aby podchodzić do AI z rozsądkiem, rozumiejąc, że jest to narzędzie, które wymaga odpowiedzialnego i świadomego zarządzania.

źródło inteligentnego przedruku: MIT Technology Review AI