Deepfake

Meta, właściciel Facebooka i Instagrama, dopuszczała reklamy aplikacji wykorzystujących sztuczną inteligencję do tworzenia pornograficznych materiałów z twarzami kobiet, często podobnych do znanych osób. Mimo deklaracji o weryfikacji, automatyczny system pozwala na obejście zabezpieczeń, a podobne aplikacje są szeroko dostępne, nawet na platformach takich jak Apple App Store, co stawia pod znakiem zapytania wiarygodność treści wizualnych w dobie deepfakes.

Źródło: Niebezpiecznik
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

W sieci pojawił się materiał deepfake z wizerunkiem Karola Nawrockiego, który podszywa się pod niego w fałszywej reklamie inwestycyjnej obiecującej szybkie zyski. Ministerstwo Cyfryzacji zapowiedziało stanowcze działania, rozważając wniosek do Komisji Europejskiej w przypadku braku reakcji ze strony Meta.

Źródło: Polsat News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Ewolucja phishingu od prostych ataków opartych na treści (Phishing 1.0) do zaawansowanych technik społecznych (Phishing 2.0) doprowadziła do powstania Phishingu 3.0, gdzie generatywna sztuczna inteligencja i deepfake tworzą wielokanałowe, spersonalizowane ataki, wymagające odpowiedzi po stronie obrońców w postaci agentów AI do preemptywnego wykrywania i neutralizowania zagrożeń.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐⭐ (9/10)

Apple pracuje nad nową funkcją w systemie iOS, która pozwoli weryfikować autentyczność zdjęć wykonanych aparatem iPhone’a. System “Apple Reference Image” będzie osadzał metadane pochodzenia już w momencie przechwytywania obrazu, umożliwiając użytkownikom udowodnienie, że zdjęcie nie zostało zmodyfikowane przez AI. Funkcja, która będzie domyślnie wyłączona, wymaga aktywacji w ustawieniach i pozwoli na uwierzytelnienie zdjęć poprzez przesłanie ich wraz z danymi sprzętowymi do chmury Apple w celu weryfikacji.

Źródło: The Verge
Kategoria: Technologia
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Unia Europejska wprowadziła nowe przepisy w ramach Aktu o Sztucznej Inteligencji, które od 2 sierpnia wymagają od firm ujawniania, kiedy użytkownicy wchodzą w interakcję z modelami AI lub kiedy treści są generowane lub modyfikowane przez AI. Zasady te, mające na celu ułatwienie identyfikacji chatbotów i deepfake’ów AI, nakładają obowiązki na dostawców i użytkowników systemów AI, grożąc karami finansowymi za ich nieprzestrzeganie, a dla nowo wprowadzanych systemów obowiązują natychmiast, z czteromiesięcznym okresem przejściowym dla starszych modeli.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Meta wycofała wprowadzoną zaledwie tydzień temu funkcję Instagrama, która umożliwiała użytkownikom generowanie obrazów AI z wykorzystaniem treści z publicznych kont poprzez ich oznaczenie. Decyzja ta zapadła po fali ostrej krytyki, podkreślającej brak zgody właścicieli kont i potencjalne ryzyko nadużyć, takich jak sextortion.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐ (6/10)

Według raportu INTERPOL, region Azji i Pacyfiku doświadcza gwałtownego wzrostu cyberprzestępczości, napędzanego cyfryzacją, rozwojem technologii i zorganizowanymi siatkami przestępczymi, gdzie phishing staje się najpowszechniejszą i najkosztowniejszą formą ataku, a ransomware i oszustwa oparte na AI, wykorzystujące deepfake do podszywania się pod menedżerów, generują miliardowe straty i uderzają w kluczowe sektory gospodarki.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Rosyjskie rodziny wykorzystują sztuczną inteligencję do tworzenia deepfake’ów i wideo przedstawiających zmarłych bliskich, głównie żołnierzy poległych na Ukrainie, jako sposób na radzenie sobie ze stratą i “niezakończonym pożegnaniem”. Technologia ta, choć dla niektórych stanowi pocieszenie, budzi kontrowersje etyczne i psychologiczne, a jej długoterminowy wpływ na proces żałoby jest nieznany.

Źródło: BBC
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Google zaprezentowało Omni Flash, nową rodzinę modeli generatywnych AI, która potrafi przekształcać różne typy danych wejściowych, takie jak zdjęcia czy tekst, w filmy, znacząco poprawiając jakość i spójność w porównaniu do poprzednich wersji. Chociaż narzędzie wykazuje imponujące możliwości w tworzeniu realistycznych deepfake’ów i manipulacji wideo, nadal pojawiają się artefakty i niespójności, a koszt generowania treści może być znaczący.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

YouTube udostępnia swoje narzędzie do wykrywania deepfake’ów opartych na podobieństwie twarzy wszystkim dorosłym użytkownikom, co pozwala im monitorować platformę pod kątem potencjalnych manipulacji ich wizerunkiem i zgłaszać treści do usunięcia. Funkcja, która początkowo była dostępna dla wybranych grup, teraz daje przeciętnym osobom możliwość ochrony przed nieautoryzowanym wykorzystaniem ich wizerunku, z uwzględnieniem wyjątków dla parodii czy satyry.

Źródło: The Verge
Kategoria: Technologia
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Premier Włoch Giorgia Meloni skomentowała krążące w sieci zdjęcia wygenerowane przez sztuczną inteligencję, które przedstawiają ją w intymnych sytuacjach, podkreślając powagę zagrożenia deepfake’ami, choć pozwoliła sobie na żartobliwą uwagę o swoim “upiększeniu” przez twórcę. Zaznaczyła, że choć ona sama potrafi się bronić, inni mogą nie mieć takich możliwości, dlatego apeluje o ostrożność i weryfikację informacji przed ich udostępnianiem.

Źródło: Polsat News
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐ (4/10)

YouTube rozszerza funkcję wykrywania deepfake’ów AI na celebrytów, umożliwiając im znajdowanie i zgłaszanie treści naruszających ich wizerunek. Narzędzie skanuje platformę w poszukiwaniu sztucznych podobizn i oznacza je do potencjalnego usunięcia, choć decyzja zależy od polityki prywatności YouTube i nie zawsze każde zgłoszenie zostanie zaakceptowane, biorąc pod uwagę dozwolone użycia, takie jak parodia.

Źródło: The Verge
Kategoria: Technologia
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Elon Musk nie pojawił się na dobrowolnym przesłuchaniu wezwanym przez francuskich prokuratorów badających platformę X, co jest kolejnym krokiem w śledztwie wszczętym w 2025 roku. Sprawa dotyczy m.in. podejrzenia o przestępstwa związane z treściami na platformie, w tym wykorzystywania chatbota Grok do tworzenia deepfake’ów seksualnych bez zgody. Pomimo braku obecności Muska, francuskie władze zapowiedziały kontynuowanie śledztwa, podczas gdy X określiło postępowanie jako “polityczny atak”.

Źródło: BBC
Kategoria: Internet i sieci
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Sztuczna inteligencja (AI) generuje obecnie tak realistyczne obrazy rentgenowskie, że doświadczeni radiolodzy nie są w stanie odróżnić ich od autentycznych, co stwarza ryzyko błędów diagnostycznych i manipulacji danymi klinicznymi, wymuszając nowy sposób wykorzystania AI w radiologii. Pomimo drobnych anomalii, takich jak nadmierna symetria czy gładkość kości, badanie wykazało, że zarówno lekarze, jak i systemy AI miały trudności z identyfikacją tych deepfake’ów, co rodzi obawy o bezpieczeństwo i wymaga wielowarstwowego podejścia obejmującego edukację, detekcję i wodoznaki.

Źródło: Medscape
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Wraz z rozwojem konsumenckich narzędzi AI, tworzenie manipulowanych mediów audio, wideo i obrazów stało się niezwykle proste, co doprowadziło do powstania rozwijającego się przemysłu startupów zajmujących się wykrywaniem deepfake’ów, który wykorzystuje uczenie maszynowe do zwalczania zagrożenia. Te firmy, takie jak Reality Defender i Pindrop, trenują sztuczną inteligencję, aby wykrywać materiały generowane przez inną AI, co jest kluczowe dla walki z oszustwami i innymi nadużyciami w erze cyfrowej.

Źródło: The Verge
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

19-letni Australijczyk przyznał się do winy w pierwszej w historii Australii sprawie karnej dotyczącej tworzenia deepfake’owego porno, łamiąc nowe prawo zakazujące manipulacji materiałami seksualnymi. Mężczyzna oskarżony o tworzenie i dystrybucję materiałów bez zgody, w tym przez platformę X, stanie przed sądem w kwietniu, podczas gdy eksperci ostrzegają przed wzrostem tego typu nadużyć i identyfikują je jako nową formę przemocy ze względu na płeć.

Źródło: BBC
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Francuski lekarz i specjalista ds. żywienia Serge Hercberg stał się celem deepfake’ów, w których jego wizerunek i głos były wykorzystywane do rozpowszechniania fałszywych porad zdrowotnych, co podkreśla rosnące ryzyko dezinformacji w internecie i potrzebę skuteczniejszych zabezpieczeń. Mimo szybkiej reakcji platformy YouTube, proces zgłaszania i usuwania szkodliwych treści okazał się problematyczny, co skłoniło ekspertów do wezwania do wprowadzenia zmian w procesach moderacji i odpowiedzialności platform cyfrowych. Problem deepfake’ów zagraża zaufaniu pacjentów do lekarzy i wymaga aktualizacji ram prawnych, by skutecznie karać osoby odpowiedzialne za tworzenie i rozpowszechnianie tego typu fałszywych materiałów.

Źródło: Medscape
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)