AI

Badacze z Seul National University i University of Illinois Urbana-Champaign odkryli nową klasę ataków na agentów AI, nazwaną Agent Data Injection (ADI). Polega ona na manipulowaniu danymi, którym agent zaufał, np. poprzez fałszywe komentarze czy identyfikatory przycisków, co może skłonić agenta do wykonania niepożądanych działań, takich jak przypadkowe zakupy lub uruchomienie złośliwego kodu, zamiast wykonania pierwotnego zadania. Atak jest trudny do wykrycia, ponieważ wykorzystuje sposób, w jaki modele językowe interpretują znaki interpunkcyjne, i działa na poziomie niższym niż tradycyjne ataki typu prompt injection, podważając zaufanie agenta do źródła danych.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Zaawansowane narzędzie oparte na sztucznej inteligencji przeanalizowało 2,6 miliona publikacji naukowych dotyczących raka z lat 1999-2024, identyfikując ponad 250 000 artykułów o wzorcach pisania wskazujących na potencjalne powiązania z tzw. “fabrykami publikacji”. Narzędzie, działające na bazie modelu językowego BERT, z dokładnością 91% wykrywa teksty o charakterystycznych “odciskach palców” świadczących o oszustwie naukowym, co stanowi znaczący problem dla wiarygodności badań medycznych i może wpływać na rozwój leczenia pacjentów.

Źródło: Science Daily
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐⭐ (9/10)

Wyciek danych z firmy Suno, generatora muzyki AI, ujawnił, że został on wytrenowany na milionach utworów i tekstów pochodzących z platform takich jak YouTube Music, Deezer i Genius, co potwierdzają raporty 404 Media. Ten incydent rzuca światło na metody pozyskiwania danych przez Suno, które wcześniej utrzymywało te informacje w tajemnicy, mimo trwających procesów sądowych o naruszenie praw autorskich.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Grupa byłych pracowników Meta pozwała firmę, zarzucając jej wykorzystanie narzędzi AI do nieuczciwego typowania osób na urlopach do zwolnień, co miało prowadzić do dyskryminacji. System oceny wydajności oparty na AI nie uwzględniał zwolnień rodzicielskich ani medycznych, przez co osoby korzystające z praw pracowniczych były nieproporcjonalnie często wybierane do zwolnienia. Meta zaprzecza tym zarzutom, twierdząc, że decyzje podejmowali ludzie, a nie sztuczna inteligencja.

Źródło: The Verge
Kategoria: Sztuczna Inteligencja
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Z okazji 25. rocznicy Google Grafiki wprowadza znaczącą zmianę – strona główna stanie się dynamiczną galerią obrazów dostosowaną do zainteresowań użytkownika, przypominającą Pinterest czy Imgur. Użytkownicy będą mogli zapisywać zdjęcia w kolekcjach, a w przyszłości Google Search zintegruje generowanie obrazów AI w podsumowaniach wyszukiwania przy użyciu modelu Nano Banana 2 Lite.

Źródło: The Verge
Kategoria: Internet i sieci
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Tydzień przyniósł nasilenie zagrożeń bezpieczeństwa, gdzie luki są wykorzystywane szybciej niż naprawiane, a zaufane narzędzia stają się wektorem ataków. Obserwujemy wzrost liczby podatności związanych z AI, jak HalluSquatting, oraz nowe zagrożenia typu ransomware i backdoor, w tym wykorzystanie Citrix Bleed 2 do dystrybucji DragonForce. Wzrost liczby aktualizacji bezpieczeństwa Windows i rozwój narzędzi analitycznych, takich jak Caeruleus czy PhantomFS, wskazują na dynamiczną ewolucję krajobrazu cyberzagrożeń.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Xinzhou Wu, szef działu motoryzacyjnego Nvidia, omawia transformację branży motoryzacyjnej w kierunku pojazdów definiowanych przez oprogramowanie i sztuczną inteligencję. Podkreśla wyzwania związane z przejściem na samochody autonomiczne i elektryczne, dynamikę chińskiego rynku motoryzacyjnego oraz wewnętrzne starania o zasoby obliczeniowe wewnątrz Nvidii, konkurującej z boomem AI. Wu przedstawia wizję przyszłości, w której wszystko, co się porusza, będzie autonomiczne, a Nvidia dostarcza kluczowe technologie i platformy do osiągnięcia tego celu, choć konkurencja o zasoby i zróżnicowane podejścia producentów samochodów do autonomii stanowią znaczące wyzwania.

Źródło: The Verge
Kategoria: Technologia
Ważność: ⭐⭐⭐⭐⭐⭐⭐⭐ (8/10)

Badacze ds. cyberbezpieczeństwa zidentyfikowali nowy wektor ataku, w którym cyberprzestępca użył skryptu PowerShell, prawdopodobnie wygenerowanego przez sztuczną inteligencję, do rekonesansu i mapowania środowiska Active Directory. Skrypt, działając agresywnie i głośno, miał na celu identyfikację kontrolerów domeny, użytkowników, komputerów i domen, a następnie eksportowanie zebranych danych w formie raportu HTML, co obniża próg wejścia dla mniej zaawansowanych atakujących i przyspiesza przeprowadzanie destrukcyjnych kampanii.

Źródło: The Hackers News
Kategoria: Cyberbezpieczeństwo
Ważność: ⭐⭐⭐⭐⭐⭐⭐ (7/10)

Podczas występu na Mad Cool Festival w Madrycie, artystka Lorde ostro skrytykowała inteligentne okulary AI, sugerując, że są „nieatrakcyjne” i zachęcając publiczność do ich niekupowania. Jej komentarze pojawiły się w kontekście rosnącego zainteresowania i krytyki dotyczącej okularów Meta, które według doniesień planują wprowadzić na rynek model stale nagrywający.

Źródło: The Verge
Kategoria: Technologia
Ważność: ⭐⭐⭐ (3/10)

Artykuł z The Verge przedstawia wybór ciekawych gadżetów i treści: od zestawu narzędzi i słuchawek Nothing, przez nowości dla dorosłych, po dokument o Burning Man i rekomendacje od czytelników. Porusza też tematykę AI, domowej automatyki i nowej książki Iana Bogosta o sztuce doceniania małych rzeczy.

Źródło: The Verge
Kategoria: Gadżety i sprzęt
Ważność: ⭐⭐⭐ (3/10)