avedelphina on Nostr: Tohle krásně ukazuje základní problém s aktuální implementací AI. Ten ...

Tohle krásně ukazuje základní problém s aktuální implementací AI. Ten problém není to, že jsou lidé schopni vygenerovat falešný pas, který projde KYC procesem. Problém je v tom, že tuhle funkci dokáže někdo vypnout.

Používám tyhle nástroje relativně dlouho, zejména na jednoduché úkoly jako psaní jednoúčelových skriptů nebo generování sumářů pro dokumentaci. S každým dalším updatem jsou tyhle základní schopnosti horší a horší. Jednoduchý skript pro Intune, který dělá jednu konkrétní úplně tupou věc, dřív zabral dvě minuty a fungoval. Dnes je jednodušší a rychlejší ho napsat sám, než řešit, proč nefunguje.

Je zcela evidentní, že běžní uživatelé opět dostávají drobečky, zatímco omezená skupina lidí má k dispozici celkem neuvěřitelné možnosti.

quoting
note1gsy…8fhx

⚡️🚨 NEW - Borys Musielak, entrepreneur and investor, demonstrated on LinkedIn how he was able to create a highly realistic fake passport in just a few minutes using ChatGPT-4o.

His counterfeit passport managed to pass a KYC verification procedure, raising serious questions about the reliability of these KYC protocols.

Typically, fake AI-generated documents are easily spotted due to layout or typographical errors.

Musielak warned of the growing risk of large-scale identity theft, particularly for the creation of fake accounts on crypto platforms.

16 hours after publication, all attempts to reproduce the experiment failed, with ChatGPT now refusing to generate a fake passport, citing its security protocols.