A Generatív MI nemcsak előnyt, de kockázatot is jelent
A Generatív MI nemcsak előnyt, de kockázatot is jelent
„Az ilyen eszközök ugyanis olyan szöveget hozhatnak létre, mely hasonlít a már meglévő szerzői jog által védett tartalomhoz, ez pedig jogi vitákat eredményezhet. Például egy befektetéselemző cég olyan jelentést készíthet a generatív MI eszköz segítségével, amihez hasonlót egy másik cég már közzétett, ezáltal könnyedén megsértheti a szerzői jogokat” – írja tanulmányában a szerző.1
David S. Krause ugyanakkor nem csak ezt látja problémának, szerinte az is gondot okozhat a pénzügyi ágazaton belül, ha a generatív MI egy befektetési anyag vagy egy marketing kampány létrehozása során sértő vagy diszkriminatív tartalmat generál, amelyek sértik az értékpapírokra vonatkozó szabályozást vagy a diszkriminációellenes törvényeket. Hiszen egy ilyen fiaskó nemcsak jogi tekintetben okozhat egy pénzügyi vállalkozás számára problémát, de a cég hírneve is komoly csorbát szenvedhet.
Mint ahogyan az sem tesz jót egy pénzügyi vállalatnak, ha a generatív MI tanításához szükséges képzési adatok között olyan érzékeny pénzügyi információk rejlenek, melyek kiszivárogva súlyos biztonsági kockázatot jelentenek. Rövid példa: egy befektetési bank, amely aktív felhasználója a generatív MI-nek, a modellel megismerteti ügyfelei adatait (ideértve a pénzügyi tranzakciókat és a számlaadatokat is), ám az adatok valamilyen okból kiszivárognak. Ezzel nem csak a bank jó hírneve sérül, de jelentős jogi következményekre is számíthat az intézmény.
A vállalatok reakciója az AI megjelenésére és az ezáltal felmerülő kockázatokra
Az alábbiakat alapul véve nem véletlen, hogy a múltban számos cég és ország hozott a mesterséges intelligencia használatával kapcsolatos korlátozó döntéseket. Ennek egyik úttörője volt a JPMorgan Chase, mely 2023 februárjában döntött úgy, hogy féken fogja tartani alkalmazottai ChatGPT használatát. A New York-i székhelyű pénzintézet alábbi döntése csupán elővigyázatosságból született, anélkül, hogy a múltban bármilyen konkrét, a chatbottal kapcsolatos incidens történt volna. Mindenesetre a rendelkezés több más pénzintézet körében is rokonszenvet váltott ki, így a Bank of America, a Citigroup, a Deutsche Bank, a Goldman Sachs és a Wells Fargo is a ChatGPT használatának korlátozása mellett döntött, félvén, hogy az pontatlan vagy félrevezető információkat generál.
A generatív mesterséges intelligenciával kapcsolatos problémák azonban nem csak az amerikai pénzügyi szektorban váltottak ki aggodalmat. Tavasszal arról lehetett olvasni, hogy Olaszországban korlátozták a ChatGPT használatát, mert a helyi adatbiztonsági hatóság szerint az OpenAI (a ChatGPT fejlesztője) nem rendelkezik megfelelő jogi alappal ahhoz, hogy annyi információt gyűjtsön be a felhasználóktól, amennyit szokott, valamint ahhoz sem, hogy az adatokat az MI tanítására használja. Az OpenAI fejlesztői természetesen azonnal reagáltak a helyzetre, és igyekeztek mindenben megfelelni az olasz hatóságok elvárásainak. Ezért áprilistól a weboldal tájékoztatást ad arról, hogyan gyűjti és használja fel a ChatGPT-t működtető algoritmusok tanításához szükséges adatokat. Emellett az uniós felhasználók egy új űrlapon jelezhetik, ha nem járulnak hozzá az adataik ilyen jellegű felhasználásához, és olyan funkciót adtak hozzá az oldalhoz, amellyel a regisztrációkor ellenőrizni lehet a felhasználók életkorát.
A bűnelkövetés módszerei egyre kifinomultabbak
Az utóbbi évek tapasztalatai szerint az egyik legnagyobb veszélyt a deepfakek alkalmazása jelenti. Segítségükkel felépíthető, majd audiovizuálisan bármely környezetben megjeleníthető egy olyan virtuális személy, amely megszólalásig hasonlít egy élő személyre. Komoly változást jelent, hogy korábban az ilyen hamis tartalmak előállításához, komoly technikai háttér, valamint jelentős szakmai tapasztalat kellett, ezzel szemben mára az MI segítségével néhány kattintás után a fotók és videók átszerkesztésével, olyan minőségben jöhetnek létre ezek a tartalmak, hogy azok egy hétköznapi felhasználó számára gyakorlatilag megkülönböztethetetlen a valóságtól. A Berlini polgármester például tizenöt percen keresztül tárgyalt videón egy mesterséges intelligencia segítségével felépített álprofillal, jelen esetben Vitalij Volodimirovics Klicskóval, Kijev polgármesterével.
A fentiekből összességében kitűnik, hogy bár a mesterséges intelligencia eszközök fejlődése számtalan utat nyit meg a technológiai fejlődés és a hatékonyságnövelés terén, ám mint mindennek, így az ilyen modelleknek is megvan a maguk kockázata. Az ártalomcsökkentés érdekében ugyanakkor számtalan óvintézkedés tehető, így megfelelő tudatossággal, egy jól megtervezett modellarchitektúrával és rendszeres monitoringgal jelentősen csökkenthetőek a használatból adódó kockázatok.
Tudjon meg többet az AI trendekről, találkozzon a BDO Corporate Finance csapatával az AI Summit konferencián! https://www.aisummit.hu/
Egyetemista vagy? Ott lennél Magyarország legnagyobb AI konferenciáján és mindezt ingyen?
Az ötlet jó, és a BDO Corporate Finance csapatának segítségével most meg is valósíthatod.
Kattints és regisztrálj gyorsan, és legyél te az egyik az 50 szerencsés közül! https://www.aisummit.hu/
1 Forrás: David S. Krause, Mitigating Risks for Financial Firms Using Generative AI Tools, 2023, Mitigating Risks for Financial Firms Using Generative AI Tools by David Krause :: SSRN