Sztuczna inteligencja zmienia zwykłe, niewinne zdjęcia dzieci w przerażające materiały o charakterze wykorzystywania seksualnego: szokująca prawda
Chroń swoje dzieci: Sztuczna inteligencja przekształca ich zwykłe zdjęcia w treści o charakterze seksualnym. Poznaj to niebezpieczne zjawisko i dowiedz się, jak mu natychmiast przeciwdziałać.
Najważniejsze rzeczy, które musisz wiedzieć
- Śledztwo ujawniło 332 reklamy stworzone przez sztuczną inteligencję na Facebooku i Instagramie, promujące wykorzystywanie seksualne dzieci. W reklamach wykorzystano zwykłe zdjęcia dzieci, przekształcając je w treści obraźliwe.
- Systemy sztucznej inteligencji firmy Meta nie wykryły setek płatnych, obraźliwych reklam, nawet po wprowadzeniu rzekomych usprawnień, podczas gdy inne reklamy promują prawie 50 obraźliwych aplikacji do tworzenia obrazów dostępnych w sklepach z aplikacjami.
- Rodzice nie powinni ponownie publikować generowanych przez sztuczną inteligencję zdjęć przedstawiających przemoc wobec swoich dzieci, lecz zgłaszać je bezpośrednio na odpowiedniej platformie i zbierać dane konta. Mogą skorzystać z usługi „Take It Down” oferowanej przez NCMEC, aby zostawić po sobie cyfrowy ślad.
Zdjęcie moich dzieci na plaży, syna grającego w piłkę nożną, a nawet całej mojej rodziny uśmiechającej się przed domem – to wszystko przykłady zdjęć, którymi dzieliłem się w mediach społecznościowych. Wiem, że nie jestem w tym odosobniony, biorąc pod uwagę, jak często widzę podobne obrazy, które oddają detale naszego współczesnego życia.
Jednak sztuczna inteligencja stworzyła nowe i niepokojące zagrożenie, pozwalając, aby zwykłe, rzeczywiste zdjęcia dzieci, takie jak te, o których przed chwilą wspomniałem, zamieniały się w obrazy wykorzystywania seksualnego bez wiedzy dziecka i jego rodziców.
Powiedzmy sobie jasno, to nie jest groźba teoretyczna.
Przekazano dalej 332 reklamy z obrazami i reklamami przedstawiającymi wykorzystywanie seksualne dzieci, które zostały wygenerowane przez sztuczną inteligencję
Nowe śledztwo przeprowadzone przez Tech Transparency Project (TTP) ujawniło setki generowanych przez sztuczną inteligencję reklam materiałów związanych z wykorzystywaniem seksualnym dzieci (CSAM) , krążących na Facebooku i Instagramie. Według WIRED , badacze zidentyfikowali czworo prawdziwych dzieci, których zwykłe zdjęcia zostały zmanipulowane. Wśród nich było dwoje nastoletnich influencerów, nastolatek, którego zdjęcie pojawiło się na stronie ze zdjęciami stockowymi, oraz młody członek europejskiej rodziny królewskiej.
W sumie TTP wykryło 332 reklamy zawierające materiały związane z wykorzystywaniem seksualnym dzieci, generowane przez sztuczną inteligencję (CSAM). Większość z tych reklam przedstawiała dziecko, którego wizerunek został zmanipulowany za pomocą sztucznej inteligencji, tak aby wyglądało, jakby wykonywało akt seksualny.
Odkrycia te stanowią niepokojące przypomnienie tego, jak generatywna sztuczna inteligencja zmieniła ryzyko związane z udostępnianiem zdjęć dzieci w internecie. Stworzenie przekonujących, fałszywych obrazów nie wymaga już prawdziwego zdjęcia; zwykły obraz może stanowić surowiec.
Jak przekształcić zwykłe obrazy w materiały obraźliwe generowane przez sztuczną inteligencję
Narzędzia sztucznej inteligencji do generowania obrazów potrafią wziąć istniejący obraz i zmodyfikować jego fragmenty, zachowując jednocześnie oryginalne, rozpoznawalne cechy osoby.
To właśnie przydarzyło się, według badaczy, pewnej liczbie dzieci wymienionych w reklamach Meta.
Według WIRED, badaczom udało się dotrzeć do źródeł zdjęć czterech nieletnich. Dwoje z nich to nastoletni influencerzy z publicznymi kontami w mediach społecznościowych. Kolejny to nastolatek, którego zdjęcie było dostępne na stronie ze zdjęciami stockowymi. Czwarty to młody członek europejskiej rodziny królewskiej.
Żaden z tych oryginalnych obrazów nie musiał zawierać treści o charakterze seksualnym, aby mógł zostać wykorzystany w sposób niewłaściwy.
Emma Hardy, dyrektor ds. komunikacji w Internet Watch Foundation, powiedziała w rozmowie z WIRED: „Aplikacje oparte na sztucznej inteligencji znacznie ułatwiają tworzenie realistycznych, przestępczych obrazów wykorzystywania seksualnego dzieci, co stwarza nowe ryzyko, że codzienne zdjęcia dzieci będą robione i przekształcane w treści o charakterze seksualnym”.
Gdy zwykły obraz stanie się publicznie dostępny, każdy może go pobrać i wprowadzić do narzędzia AI przeznaczonego do edycji obrazów.
Sztuczna inteligencja Meta nie wykryła setek reklam
Skala ostatniego śledztwa pokazuje również, jak trudno jest powstrzymać powstałe w wyniku tego treści.
W sierpniu badacze TTP odkryli początkowo 53 reklamy zawierające treści związane z wykorzystywaniem seksualnym dzieci na platformach Meta. Meta później stwierdziła, że wiele z tych reklam pojawiło się przed wprowadzeniem przez firmę nowej technologii sztucznej inteligencji, mającej na celu usprawnienie wykrywania nieodpowiednich reklam po ich przesłaniu.
Jednak badacze nadal je znajdowali. TTP twierdzi, że ostatecznie zidentyfikowało 332 reklamy zawierające materiały związane z wykorzystywaniem seksualnym dzieci (CSAM) generowane przez sztuczną inteligencję, a setki z nich pojawiły się po tym, jak Meta ogłosiła ulepszoną technologię wykrywania, co stawia pod znakiem zapytania skuteczność monitorowania wspomaganego przez sztuczną inteligencję.
To szczególnie ważne, ponieważ nie były to po prostu posty na Facebooku czy Instagramie, które przepadły bez echa. Były to płatne reklamy.
Meta twierdzi, że reklamy są sprawdzane przed dopuszczeniem do wyświetlania, a kluczową rolę w tym procesie odgrywają zautomatyzowane systemy.
Rzeczniczka Meta, Tracy Clayton, powiedziała WIRED, że firma nie toleruje aplikacji prezentujących nagość ani wykorzystywania dzieci, niezależnie od tego, czy na zdjęciach znajdują się prawdziwe dzieci, czy są one generowane przez sztuczną inteligencję. Meta stwierdziła, że osoby naruszające zasady celowo próbują ominąć jej systemy wykrywania, a niektóre filmy były trudniejsze do wykrycia, ponieważ obrazy dzieci pojawiały się na nich tylko przez chwilę lub były rozmazane.
Firma oświadczyła, że wiele reklam zidentyfikowanych przez badaczy zostało już usuniętych, większość z nich miała mniej niż 200 wyświetleń i że otrzymała z tych reklam płatności na kwotę mniejszą niż 5000 dolarów. Badacze udokumentowali jednak przypadki, w których zasięg reklam wzrósł po ich zgłoszeniu.
TTP poinformowało, że pojedyncza reklama skierowana do prawdziwego nastolatka dotarła do czterech europejskich kont, gdy została zgłoszona do Meta. Kilka dni później, gdy Meta ją usunęła, reklama dotarła do ponad 330 kont.
Śledztwo ujawnia powszechne stosowanie tych narzędzi.
Badacze odkryli reklamy kierujące użytkowników do prawie 50 aplikacji dostępnych w Apple App Store i Google Play. Według WIRED, około 300 z 350 reklam objętych szerszym badaniem promowało generatory obrazów lub wideo oparte na sztucznej inteligencji.
Apple poinformowało WIRED, że niektórzy deweloperzy początkowo oferowali zgodne z przepisami wersje swoich aplikacji, a następnie dodali do nich funkcje usuwania treści. Apple poinformowało, że usunęło 17 z 20 aplikacji zidentyfikowanych przez badaczy i podjęło działania wobec pozostałych trzech, a także wobec siedmiu innych aplikacji ujawnionych przez WIRED.
Google z kolei oświadczyło, że usunęło wszystkie aplikacje wymienione w raporcie i zawiesiło setki innych aplikacji za naruszenie swoich zasad.
Jednak te odkrycia ujawniają problem, który wykracza poza ramy pojedynczej platformy, ponieważ do tworzenia tych obraźliwych obrazów można wykorzystać sztuczną inteligencję. Większość narzędzi AI nie podlega regulacjom, co naraża firmy na ryzyko. Sklep z aplikacjami mógłby rozpowszechniać narzędzie służące do ich tworzenia, a następnie platforma reklamowa mogłaby dystrybuować reklamy promujące te narzędzia.
Każda warstwa tego systemu może mieć własne systemy bezpieczeństwa, ale materiały obraźliwe muszą przejść przez te systemy tylko raz, aby dotrzeć do użytkowników.
Co byś zrobił, gdybyś znalazł zdjęcie swojego dziecka wygenerowane przez sztuczną inteligencję?
Jeśli natkniesz się na wygenerowane przez sztuczną inteligencję zdjęcia Twojego dziecka o charakterze seksualnym, nie udostępniaj go ponownie ani nie udostępniaj szeroko w celu ostrzeżenia innych.
Zamiast tego zachowaj informacje, które mogą pomóc zidentyfikować miejsce występowania tego materiału, takie jak nazwa konta, tytuł strony i inne szczegóły, i zgłoś treść bezpośrednio na platformie.
W Stanach Zjednoczonych podejrzenia dotyczące wykorzystywania seksualnego dzieci można zgłaszać również na infolinię CyberTipline Krajowego Centrum ds. Zaginionych i Wykorzystywanych Dzieci.
Rodzice mogą również skorzystać z usługi NCMEC o nazwie Take It Down , która ma na celu powstrzymanie udostępniania w Internecie zdjęć i filmów przedstawiających nagość, półnagość lub treści seksualne osób poniżej 18. roku życia. System tworzy cyfrowy odcisk palca, czyli skrót, obrazu bez konieczności przesyłania samego obrazu.
Ponieważ obrazy generowane przez sztuczną inteligencję tworzą nowe i bardziej złożone scenariusze, rodzice, którzy nie są pewni, czy przetworzony obraz spełnia kryteria zgłaszania, powinni zgłosić to, co znaleźli, zamiast próbować ustalać to samodzielnie.
Wniosek
Rodziców od lat ostrzega się przed niebezpieczeństwami związanymi z „dzieleniem się” i cyfrowymi śladami swoich dzieci. „Sharing”, zlepek słów „sharing” i „parenting”, odnosi się do praktyki udostępniania przez rodziców zdjęć, filmów i danych osobowych swoich dzieci w mediach społecznościowych.
Chociaż rodzice nie mogą całkowicie wyeliminować ryzyka niewłaściwego wykorzystania przez sztuczną inteligencję zdjęć lub filmów, które publikują, ograniczenie liczby publicznie dostępnych zdjęć swoich dzieci i większa ostrożność w udostępnianiu treści może ograniczyć ilość materiałów dostępnych dla osób, które mogłyby je wykorzystać w niewłaściwy sposób.
Możliwość dodawania komentarzy nie jest dostępna.