Deepfake

Wraz z rozwojem konsumenckich narzędzi AI, tworzenie manipulowanych mediów audio, wideo i obrazów stało się niezwykle proste, co doprowadziło do powstania rozwijającego się przemysłu startupów zajmujących się wykrywaniem deepfake’ów, który wykorzystuje uczenie maszynowe do zwalczania zagrożenia. Te firmy, takie jak Reality Defender i Pindrop, trenują sztuczną inteligencję, aby wykrywać materiały generowane przez inną AI, co jest kluczowe dla walki z oszustwami i innymi nadużyciami w erze cyfrowej.

Źródło: The Verge
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

19-letni Australijczyk przyznał się do winy w pierwszej w historii Australii sprawie karnej dotyczącej tworzenia deepfake’owego porno, łamiąc nowe prawo zakazujące manipulacji materiałami seksualnymi. Mężczyzna oskarżony o tworzenie i dystrybucję materiałów bez zgody, w tym przez platformę X, stanie przed sądem w kwietniu, podczas gdy eksperci ostrzegają przed wzrostem tego typu nadużyć i identyfikują je jako nową formę przemocy ze względu na płeć.

Źródło: BBC
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Francuski lekarz i specjalista ds. żywienia Serge Hercberg stał się celem deepfake’ów, w których jego wizerunek i głos były wykorzystywane do rozpowszechniania fałszywych porad zdrowotnych, co podkreśla rosnące ryzyko dezinformacji w internecie i potrzebę skuteczniejszych zabezpieczeń. Mimo szybkiej reakcji platformy YouTube, proces zgłaszania i usuwania szkodliwych treści okazał się problematyczny, co skłoniło ekspertów do wezwania do wprowadzenia zmian w procesach moderacji i odpowiedzialności platform cyfrowych. Problem deepfake’ów zagraża zaufaniu pacjentów do lekarzy i wymaga aktualizacji ram prawnych, by skutecznie karać osoby odpowiedzialne za tworzenie i rozpowszechnianie tego typu fałszywych materiałów.

Źródło: Medscape
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)