AI nás od deepfake neochrání. Tvrdí to nový report od Data and Society.

AI nás od deepfake neochrání. Tvrdí to nový report od Data and Society. Tvůrci v něm přicházejí i s novým termínem cheap fake týkajícím se mediálních manipulací vytvářených s pomocí levných softwarových nástrojů nebo dokonce bez nich. Což může být i prostý Photoshop, využití někoho podobného, střihu do jiného kontextu, zrychlejí či zpomalení.

deepfakes_cheap_fakes_spectrum_577.png

Reklamy

Deepfake hlasu šéfa firmy vedlo k převodu 243 000 dolarů. CEO fraud tak dostává nový rozměr,

Deepfake hlasu šéfa firmy vedlo k převodu 243 000 dolarů. CEO fraud tak dostává nový rozměr, žádné zfalšované e-maily, teď už hlas šéfa přímo nařizujícího něco proplatit. Problém je ale stejný, nepochopitelná absence kontrolních mechanismů. Viz Fraudsters deepfake CEO’s voice to trick manager into transferring $243,000 a Fraudsters Used AI to Mimic CEO’s Voice in Unusual Cybercrime Case

1600-pexels-164652-banknotes-cash-deal-164652.jpg

Čínská aplikace Zao umožňující nasadit libovolný obličej do vybraných fotek i videí čelí kritice

Čínská aplikace Zao umožňující nasadit libovolný obličej do vybraných fotek i videí čelí kritice poté, co se dostala na nejvyšší příčku v „zábavné“ sekci App Store. Praktická demonstrace toho jak fungují deepfakes měla v podmínkách užití kompletní získání práv ke všemu co uživatelé vytvoří (viz China’s Red-Hot Face-Swapping App Provokes Privacy Concern). Vlna kritika a negativní recenzí na App Store tvůrce přiměla k odstranění této části podmínek a ke smazání (teoretickému, samozřejmě) všech doposud získaných fotografií (Chinese face-swapping app sparks privacy concerns soon after hugely popular release). Čínský WeChat v neděli znemožnil sdílení z této aplikace. Viz Chinese face-swapping app goes viral, invites criticism over privacy clause

iOS 13 ve FaceTime opraví vaše oči, budou se dívat do kamery.

iOS 13 ve FaceTime opraví vaše oči, budou se dívat do kamery. Apple tvrdí, že to prý zlepšuje důvěru. Což je samozřejmě pravda, oční kontakt když spolu lidé mluví je důležitý. Otázkou je, zda vědomí o tom  že to software falšuje povede k něčemu pozitivnímu. A jak hodně to celé časem bude deepfake – možná vlastně ani časem nebudete muset být u kamery. Stačí pár sekund a zbytek už bude jenom simulace. Viz iOS 13 will fix the FaceTime eye contact problem a skvělá ukázka v následujícím tweetu.

Facebook odmítá odstraňovat deepfake videa. Včetně Marka Zuckerberga přiznávajího co vše špatného Facebook dělá

Facebook odmítá odstraňovat deepfake videa. Včetně Marka Zuckerberga, Kim Kardashian i dalších. Celé to vzniklo s manipulativním videem Nancy Pelosi, které ani tak nebylo deepfake, jako prostě záměrně zpomalené, aby vyvolávalo dojem, že je opilá.

Podle Facebook takováto videa „neporušují Pravidla“ a tím pádem nebudou odstraněna, byť bude omezen jejich dosah a šíření. Viz Facebook will not remove deepfakes of Mark Zuckerberg, Kim Kardashian and others from Instagram a This Deepfake of Mark Zuckerberg Tests Facebook’s Fake Video Policies

Celý příspěvek

Deepfake porno videa, možná již brzy i s vašim vlastním obličejem.

Deepfake porno videa, možná již brzy i s vašim vlastním obličejem. Tvůrci porno obsahu montují obličeje (zejména) žen posbírané z Internetu na čistě pornografický materiál. Viz Fake-porn videos are being weaponized to harass and humiliate women: ‘Everybody is a potential target’

Více i v Porno? Ne, to je deepfake. Jak nasadit známou hlavu na cizí tělo

2019-01-01 09_03_50-Fake-porn videos are being weaponized to harass and humiliate women_ ‘Everybody .png

Deepfakes, spojení „deep learning“ a „fake“ můžete vidět v praxi

Deepfakes, spojení „deep learning“ a „fake“ můžete vidět v praxi na videu níže. Technicky jde o využití hloubkového učení (někdy tomu říkají AI) ke kombinování existujících fotografií a videa do jiného obrázku a videa aby vzniklo něco, co nikdy neexistovalo (a ani nikdy existovat nemohlo).