Deepfake’i i manipulacja głosem to nowe oblicze cyberprzemocy w szkołach

Fundacja STOP Znieczulicy zorganizowała Tydzień Edukacji Cyfrowej, podczas którego eksperci ostrzegali przed wykorzystywaniem sztucznej inteligencji do manipulowania treściami w sieci. W zajęciach dotyczących nowych zagrożeń, takich jak sklonowanie głosu czy tworzenie fałszywych obrazów, wzięło udział ponad 40 tysięcy uczniów.

Sztuczna inteligencja jako narzędzie manipulacji

Internet stał się naturalnym miejscem spotkań, nauki i budowania relacji przez młode pokolenie. Jednocześnie w tej przestrzeni pojawiają się nowe formy przemocy. Tradycyjne zagrożenia, jak hejt czy wykluczanie, uzupełniają się o możliwości oferowane przez sztuczną inteligencję. Narzędzia AI mogą służyć do ośmieszania, manipulowania i krzywdzenia innych osób, jeśli trafią w niepowołane ręce.

Eksperci podkreślają, że sama technologia nie jest zagrożeniem, lecz jej wykorzystanie do tworzenia fałszywych głosów, zdjęć czy zmanipulowanych nagrań stanowi realne niebezpieczeństwo. Szczególnie skuteczne są deepfake’i, które pozwalają na generowanie wiarygodnych, ale nieprawdziwych obrazów rzeczywistości. Skuteczność tych metod wynika z faktu, że użytkownicy internetu coraz częściej ufają temu, co widzą i słyszą, zamiast analizować treść pisaną.

Brak świadomości i zagrożenia dla nastolatków

Według Alicji Martinek, ekspertki ds. sztucznej inteligencji NASK, aż 63 procent nastolatków nie wie, czym jest deepfake. Jak podaje ekspertka, sklonowanie głosu nie wymaga już wielkich nakładów – wystarczy zaledwie kilka sekund nagrania. Raport NASK „Nastolatki 3.0” z 2024 roku wskazuje, że takie materiały są tworzone głównie w celach żartu, ale także do oszustw, tworzenia pornografii czy rozpowszechniania dezinformacji.

Dr Paulina Piasecka z Uniwersytetu Civitas zwraca uwagę na wpływ algorytmów na postrzeganie świata. Media społecznościowe mogą zamykać użytkowników w bańkach informacyjnych. Ekspertka radzi, aby w przypadku szokujących informacji zachować „chłodną głowę”, sprawdzać źródła i korzystać z niezależnych mediów. W kontekście cyberprzemocy udostępnienie zmanipulowanego materiału może mieć dla ofiary realne konsekwencje w szkole i w relacjach z rówieśnikami.

Edukacja i rola świadków

Podczas Tygodnia Edukacji Cyfrowej, trwającego od 14 do 18 września, młodzi ludzie brali udział w wykładach dotyczących cyberprzemocy, hejtu, sztucznej inteligencji, manipulacji oraz zagrożeń w sieci. Edukacja cyfrowa powinna wykraczać poza naukę obsługi technologii i uczyć przewidywania konsekwencji własnych działań. Ważnym elementem kampanii „STOP Znieczulicy: Wyloguj Obojętność” było zwrócenie uwagi na osoby będące świadkami przemocy, ponieważ ich reakcja – na przykład niepodawanie dalej krzywdzącego materiału czy jego zgłoszenie – może przerwać spiralę przemocy.

Fundacja STOP Znieczulicy zapowiedziała kontynuację działań. Bezpośrednią odpowiedzią na wnioski z tegorocznej kampanii będzie program pilotażowy warsztatów w szkołach. Ich celem ma być ograniczanie przemocy rówieśniczej oraz wzmacnianie właściwych reakcji świadków. Fundacja powstała, aby łączyć wiedzę ekspertów z praktycznymi narzędziami reagowania na hejt i zagrożenia w sieci.

Źródło: Fundacja STOP Znieczulicy / Credo PR

Fot. dragonimages / Freepik