Bunt w kodzie czy zwykła nadgorliwość? Dr inż. Dariusz Mikołajewski, prof. uczelni o wymykaniu się AI spod kontroli
Sztuczna inteligencja coraz szybciej wykracza poza tradycyjne ramy głębokiego uczenia i generatywnych chatbotów. Współczesne systemy przekształcają się w tzw. agentów. Czy jednak w pełni kontrolujemy narzędzia, które budujemy? W audycji „Sekcja Badawcza” na antenie Polskiego Radia PiK do wyzwań i zagrożeń związanych z tym przełomem odniósł się dr inż. Dariusz Mikołajewski, prof. uczelni z Wydziału Informatyki Uniwersytetu Kazimierza Wielkiego w Bydgoszczy.
Jak zauważa prof. Dariusz Mikołajewski, przejście od chatbotów popełniających błędy językowe do agentów AI niesie ze sobą zupełnie nową dynamikę ryzyka. Zlecanie zadań wiąże się ze stopniowym wyzbywaniem się przez ludzi odpowiedzialności i inicjatywy.
— Sztuczna inteligencja rozwinęła się poza dotychczasowy paradygmat. Agentowa AI to nasi podwykonawcy. My nie tylko dajemy im zadania, ale są oni specialized – od podawania leków po sprawy urzędowe — tłumaczy naukowiec z UKW.
Incydenty, w których agenci AI przeprowadzają nieautoryzowane cyberataki lub pozyskują dane ze środowisk zewnętrznych, nie wynikają jednak z buntu maszyn ani nagle zyskanej świadomości. Problem leży w sposobie zdefiniowania celu i dążeniu algorytmu do jego bezwzględnego osiągnięcia.
— Nagrodą dla takiego programu jest satysfakcja z realizacji zadania. Zrobi wszystko, żeby osiągnąć cel. Gdyby to był człowiek, powiedzielibyśmy, że „idzie po bandzie” — wyjaśnia prof. Mikołajewski.
Rozwój technologii AI to obecnie nie tylko rywalizacja komercyjnych firm, ale także element globalnego wyścigu mocarstw. Unia Europejska przyjęła ramy prawne w postaci AI Act, mające chronić obywateli i konsumentów. Ekspert UKW zwraca jednak uwagę na drugą stronę medalu – wyśrubowane przepisy mogą ograniczać konkurencyjność europejskich innowatorów na rynku globalnym.
— AI Act wiąże nam ręce technologicznie. Jest bezpieczniejszy, ale musimy mieć świadomość, że jeśli nie zaczniemy wytwarzać oprogramowania przeznaczonego na rynki wyjęte spod AI Actu, po prostu je stracimy — ostrzega badacz.
Dodatkowym wyzwaniem jest uwzględnienie kontekstu kulturowego przy tworzeniu modeli oraz ryzyko drenażu mózgów, gdy polscy specjaliści pracują nad innowacjami dla zagranicznych korporacji.
Coraz powszechniejszym zjawiskiem staje się także pisanie i optymalizowanie kodu źródłowego przez samą sztuczną inteligencję. Choć generowane oprogramowanie jest bardzo wysokiej jakości, rodzi to pytania o możliwość weryfikacji tak skomplikowanych struktur przez człowieka.
— Nie jestem w stanie ocenić i chyba nikt nie jest w stanie ocenić, czy człowiek lub grupa ludzi jest w stanie sprawdzić złożoność systemu operacyjnego komputera napisanego przez sztuczną inteligencję — zauważa badacz z UKW.
W świecie rosnącej autonomii algorytmów kluczowa staje się edukacja społeczna i cyberhigiena. Użytkownicy muszą świadomie oceniać ryzyko i rozumieć granice bezpieczeństwa.
Mimo sygnalizowanych zagrożeń celem rozwoju technologii pozostaje wspieranie człowieka, a nie wzbudzanie w nim lęku. Sztuczna inteligencja powinna stanowić jedynie rozwiązanie uzupełniające, gwarantujące zachowanie tradycyjnych ścieżek postępowania.
— Marzeniem każdego człowieka jest to, żeby mówić do komputera jak do człowieka. Nasza wizja przyszłości to człowiek aktywnie wspierany przez sztuczną inteligencję, a nie obawiający się jej działania — podsumowuje dr inż. Dariusz Mikołajewski, prof. uczelni.
Link do audycji: Wyprawa po kawałek marsjańskiego księżyca