„Nosferatu nem léphet hívatlanul a hajadon szobájába” – empatikus AI, dezinformáció és csökkenő optimizmus, avagy Cloudfest harmadik nap

Írta: NetMasters

2024.04.12.

A Cloudfest második napján a hangulat ugyan felhőtlen volt, ám a témák egy kissé komolyodtak. Szó volt emberhekkelésről, forgalomgeneráló botokról, a pesszimizmus felé hajló felhőiparról, és maga a Bellingcat alapítója beszélt dezinformációról. De kaptunk emellett statisztikákat, tanácsokat, tippeket a német rendőrségtől, szóval vágjunk is bele a beszámolóba.

Romain Cholat, a Verisign egyik alelnöke a domain nevekben rejlő lehetőségekről beszélt nekünk The Expanding Opportunities for Domain Names címre keresztelt előadásában.

Az előadás nagy átfedésben volt az első nap AI-támogatott domainválasztásos, ugyancsak Verisignos demójával, így itt most azt szemezzük ki, ami extra infóként jelent meg.

Pár szám a domainekről globálisan: 2014-ben még 254,3 millió regisztrált domain létezett, ez kerek egy évtized alatt nőtt 359,8 millióra, szóval erős 41%-os a növekedés. 

Kicsit szűkebbre véve a fókuszt, a magyar piacon sem állt meg a növekedés. Bár a globálishoz képest, ahol több ezer új végződés jelent meg ebben az időszakban, kicsit laposabb a .hu görbéje, de ugyanezen idő alatt 643 ezerről 867 ezerre nőtt a regisztrált domainek száma a magyar domaintérben.

Romain szerint a domainek, amellett, hogy globális összekötőkapocsként szolgálnak platformokon, kommunikációs csatornákon keresztül, nagyobb kontrollt is adnak a vállalkozások kezébe az online jelenlétük felett, gyakorlatilag egy saját domain (és nyilván a brand ami hozzá tartozik) “az integrált online stratégia sarokköve”.

Szóba került az egyedi, saját domaines e-mail-címek fontossága is, ami egy sokszor elhanyagolt téma. Hogy miért fontos, azt jól mutatja az ISZT Nonprofit Zrt. egy friss kutatása, ami azt mutatta ki, hogy a vizsgált vállalkozások “40%-a rendelkezik saját weboldallal, ehhez kapcsolódó vállalati e-mail címet ugyanakkor csak 30% használ”.

Ami azért is meglepő, mert ha viszont a különféle kommunikációs csatornák használatát nézzük, akkor (azoknál, akik használják is) az egyedi e-mail-fiók messze a leggyakrabban alkalmazott eszköz.

A saját e-mail-cím létrehozása, ha már van egy domained, semmivel sem bonyolultabb, mint regisztrálni egy ingyenes fiókot, ráadásul korlátlan számút hozhatsz létre, minden kampányhoz, eseményhez, kollégához egyedit akár. Emellett pedig hitelességet kölcsönöz, biztonságérzetet ad, és összességében segít megbízhatóbb színben feltüntetni a vállalkozásodat.

Márpedig, ahogy Romain Cholat fogalmazott ezen a ponton, “ha nincs bizalom a vásárlók és a vállalkozások között, nincs üzlet sem.”

Még pár érdekes szám, mielőtt izgalmasabb vizekre evezünk:

  • A vásárlók 63%-a jobban érzi magát, ha olyan vállalkozástól vásárol, aminek több platformon párhuzamosan van aktív jelenléte ugyanazon brand alatt (ide értve a saját weboldalt, saját domainnel),
  • 82%-uk a vásárlási út során legalább egyszer a domain név alapú keresést alkalmazza, vagyis arra a névre keres rá, ami a domain névben is szerepel, ha infót keres egy vállalkozásról,
  • 71% jobban bízik a saját weboldallal rendelkező vállalkozásokban,
  • 70% jobban bízik az egyedi e-mail-címről kommunikáló vállalkozásokban.

Röviden: a saját, egyedi domain még mindig fontos, még mindig a bizalom alapja az online kommunikációban.

És hogy a statisztikákat egy helyre gyűjtsük, ide emeljük be az idei State of the Global Cloud Market Reportot is, amit második alkalommal mutattak be a Cloudfesten.

Summázva az elmúlt egy év változásait: ha nem is lett a felhőpiac kifejezetten pesszimistább, de látványosan kevésbé lelkesek a szakemberek. Tavaly még 61% mondta, hogy pozitívan tekint az iparág közeli jövőjére, idénre ez az arány a megkérdezettek kevesebb mint a felére, 48%-ra apadt, és láthatóan csökkent a globális felhő iránti érdeklődés is.

A 2023-as helyzethez képest…

  • Többen aggódnak a biztonsági megfontolások miatt (59% -> 64%),
  • Többen vannak, akik szerint a végfelhasználók nem eléggé értik a felhőtechnológiát (56% -> 61%),
  • Kevesebben vannak, akik szerint a vásárlók bíznak a felhőben (38% -> 33%).
  • Aligha meglepő módon komolyan nőtt azoknak az aránya is, akik jobban elmerülnének az AI megismerésében (79% -> 86%).

Amikor az AI empatikusabb, mint te bármikor lehetnél

Dustin Feld, az adiutaByte igazgatója arról elmélkedett személyes tapasztalatai alapján, hogyan nyomhatja le az AI az empátiában az embert. Pontosabban fogalmazva, hogyan hozhat olyan döntéseket, amik látszólag empatikusabbak.

Mielőtt a magyarázatba bonyolódnánk, nézzük inkább a konkrét példát, amit hozott.

Dustin nem tisztán technológus, az egészségügyben is kamatoztatja a tudását. Márpedig a német egészségügy is küzd egy problémával, amit túlságosan jól ismerünk: emberhiánnyal.

Az egész problémakör amire rákanyarodunk, egy igen jól ismert matematikai dilemmából indul, amit úgy ismerünk, az utazó ügynök problémája (travelling salesman problem).

A lényege: meg kell találnunk a legrövidebb utat n számú állomás között.

Mondjuk, hogy egy utazó ügynöknek el kell mennie Budapestről ugyanazon a napon Debrecenbe, Szegedre és Győrbe is. Pár perc Google Maps, és egy ilyen problémát viszonylag könnyen feltérképezhetünk…

De mi van, ha azt mondjuk az ügynökünknek, hogy van rá három napja, hogy végiglátogassa az összes megyeszékhelyet, és magának kell fizetnie a benzint? Minél több az állomás, annál bonyolultabb a tervezés, ezért erre a problémára komoly algoritmusokat írnak.

Dustin viszont tovább csavarja a gondot saját tapasztalatai alapján. Adott tehát egy egészségügyi rendszer, amiben már most kevés az ember, és egyre csak kevesebb lesz. Adott egy mondjuk 80 autóból álló flotta, autónként 1-2 ápolóval, akiknek egy napon 1000 beteget kell végiglátogatniuk…

Ez már önmagában optimalizálhatatlan feladat egy embernek – és akkor még nem hoztuk be a képbe a már lebegtetett empatikus szempontokat.

Dustin elkezdett AI-t használni ahhoz, hogy az útvonalakat megtervezze, egy rakás extra adatot és meglehetősen szabad kezet adva a gépnek, és egy ponton talált egy igen bizarr eredményt. Az AI javasolt egy látszólag logikátlan ápoló-beteg párosítást, aminek sem időben, sem távolságban ránézésre sehogyan sem volt értelme. Viszont annak ellenére, hogy korábban alig találkoztak, újabban a beteg is kifejezetten ezt az ápolót preferálta.

Pár telefonhívás után a következő derült ki: a beteget korábban egy másik, felmondott ápoló látogatta. Ő egy nagyon specifikus választás volt, merthogy az idős nagymama kifejezetten olyat kért, aki tud zongorán játszani neki. Az új ápolót, nyilván, azért osztotta az AI a beteg mellé, mert látta az igényt, és azt is, hogy ő szintén tud zongorázni. 

Tehát kiszolgálta ezt a speciális, nagyon is empátián alapuló kérést – amit egy-két ember, akik több ezer útvonalat igyekeznek egy húrjait feszítő rendszerben optimalizálni, soha észre sem vett volna. Sőt, Dustin még akkor sem ismerte fel a mintát, amikor előtte volt minden adat és eredmény, extra kutatásba került rájönnie, miért ez az ideális terv.

A tanulság? Dustin szerint kettős:

  • Az AI segít, hogy olyan plusz empátiát vigyünk a legbonyolultabb tervezési folyamatokba is, amire tisztán emberi tervezéssel esélyünk sem lenne.
  • A folyamatból viszont nem hiányozhat teljesen az ember, az ellenőrzés, akár felülbírálás, ha túllőne a célon a gép, elkerülhetetlen opció, amihez hús-vér szakember kell.

A jó, a rossz meg a csúnyán drága forgalmad

Jason Haworth, a BotGuard vezető termékfejlesztője a botok, zsarolóvírusok, malware-ek, meg persze az AI ezekre gyakorolt hatására tért rá.

Mindjárt pár vidám statisztika: 2025-ben a kiberbűnözés becsült éves költsége 10,5 billió dollár lehet globálisan. Egy átlagos weboldalt naponta 94 támadás ér, 12,8 millió malware-fertőzött weboldalról tud csak a BotGurad, aminek a 88%-a nincs feketelistázva, egyetlen adatszivárgás költsége (magyarul az okozott kár mértéke) pedig 4,5 millió dollár lehet átlagosan.

Jason szerint jelenleg a globális netforgalom mintegy 47%-át botok generálják – ami önmagában nem mindjárt egy negatív dolog. (Majd mindjárt az lesz, de magában még nem az.)

Ennek egy tekintélyes része ugyanis nem rosszindulatú bot – automatizációk, a kereső crawlereit, különféle szolgáltatások botjai, amikkel minden nap élünk. Ami ebből rosszindulatú, az közel a harmada: a zsarolóvírusok, sebezhetőségeket kereső botok, spammerek, vírusok és így tovább.

Mindezeknek a teljesítményét persze az AI is fel tudja turbózni. A mázlink az, hogy egyelőre komolyabb AI-okat trénelni, üzemeltetni irgalmatlanul sok kapacitást, energiát követel, ami nem sok játékosnak van meg a piacon. Akiknek pedig igen, azok igyekeznek kizárni a lehetőséget, hogy az eszközeiket ártó céllal használják.

Ami persze nem mindig a leghatékonyabb, néhány AI-nál már azzal is elég trükközni, hogy nem azt kéred, hekkeljen meg egy weboldalt, hanem azt mondod neki, képzelje el, hogy egy biztonsági szakember, és ilyen szemmel mondja meg, melyik lenne ezen a weboldalon a legnyilvánvalóbb sebezhetőség…

Jelenleg az egyre gyakoribb automatizált támadások ellen a leghatékonyabb védekezési mód az, ha a védelmet is automatizáljuk: blokkoljuk a rejtett belépési kísérleteket, gyanús IP tartományokat, adatokat gyűjtünk a belépési kísérletekről, és lehetőleg mindehhez valamilyen adaptív szoftvert használunk, ami akár a nulladik napi fenyegetéseket is képes kiszűrni.(A nálunk működő WatchGurad Firebox például ilyen rendszer.)

Ide jól illik a nap egy másik előadásának egyik idézete Cristiano Guerrieritől, a ThreatLocker mérnökétől:

„A sikeres kibertámadások 100%-át nem észlelik időben – vagy egyáltalán.”

Most pedig térjünk rá arra, hogy weboldalak helyett hogyan hekkelhetünk meg embereket…

Emberhekkelés, manipuláció, álhírek és dezinformáció

A következő blokkban egy rakás érdekes karakter töltött meg egy kerekasztalt, négy kiberbiztonsági szakértő mellett a német rendőrség kiberbűnözési alosztályának vezetője, Fred-Mario Silberbach agyviharzott az online bűnözés jelenéről, jövőjéről, következményeiről.

A központban a zsarolóvírusok voltak, mint klasszikus dilemma, ha már a social engineering felől közelítettünk. Mint megtudtuk, csak Németországban tavaly 8 milliárd eurónyi váltságdíjat fizettek ki – és nem minden euróért cserébe kapták vissza létfontosságú adataikat a cégek…

Amiben a szakértők egyetértettek: nagyon rizikós döntés, hogy fizessünk-e vagy sem, ha a baj már megtörtént, mert egyáltalán semmi garancia arra, hogy cserébe feloldják az adatainkat – a rendőrség egyenesen mindig azt tanácsolja, hogy ne fizessenek a cégek.

Ami elvnek persze szép, de mi van akkor, ha a cég egyszerűen nem tud tovább működni az érintett adatok nélkül? Ha a rendszer áll, ha nem megy a biznisz, nem tudsz pénzt termelni, akkor hiába a moralizálás, miközben lehúzod a rolót és elbocsájtod az embereidet, ezért sokan inkább fizetnek, mert így legalább minimális esélye van, hogy talpra tudnak állni.

Silberbach igyekezett egy kicsit rásegíteni a motivációra, hogy az emberek mindig hívják a rendőrséget, ha ilyen esettel szembesülnek. “Ha betörnek a házunkba, akkor sem azért hívunk rendőrt, mert reméljük, hogy két nap múlva elkapják az elkövetőt, hanem mert tudjuk, hogy később összekapcsolhatják az ügyeket, lekapcsolhatják a bűnözőket, és akkor visszakaphatunk valamit abból, amit elloptak”, mondja.

Az egyértelmű konszenzus a szakik és a hatóság részéről a megelőzés körül alakult ki, mert ha már egyszer bejutottak a céges rendszeredbe, onnan nagyon nehéz pozitív végkimenetelt elérni. 

„Ha megnyitsz egy alkalmazást, az mindenhez hozzáfér, amihez te is. Ha az e-mailjeidet olvasod, gyakorlatilag támadás alatt állsz. Ne bízz semmiben, ami kívülről érkezik!”, hangzott el.

A főbb tanulságok:

  • Nem létezik 100%-os védelem, de még ha 100%-os védelmet is építesz ki, semmi garancia rá, hogy nem lesz egyvalaki, aki véletlenül kikotyogja a jelszavát.
  • Az egyetlen dolog, ami az elmúlt évtizedek alatt a technológiában nem változott, hogy még mindig emberek ülnek a billentyűzet előtt.
  • Osztogathatsz bagde-eket, írhatsz policy-t, de a zsarolóvírusok általában nem azért jutnak be a rendszeredbe, mert nem frissítettél rá a tűzfaladra, hanem emberi hiba miatt.
  • Ha a menedzsment, a vezetés nem gondolja úgy, hogy a kiberbiztonság fontos, akkor bukik az egész.

Itt egy kis tangesre kanyarodjunk el, mert ezen a ponton feltette a kérdést a rendőrségi csoportvezető: hogyan mérhetjük a megelőzés hatékonyságát? Hogyan tudod egy eredményorientált felsővezetőnek megindokolni, hogy mennyi időt, energiát és pénzt fektetsz a megelőzésbe, ha annak az az eredménye, hogy nem történik semmi?

A biztonsági szakemberek itt ugyanazzal a problémával állnak szemben, mint amit a COVID idején is megismerhettünk. Ha nem teszünk óvintézkedéseket, akkor baj lesz, és mindenki azt fogja kérdezni, miért nem tettünk semmit. Ha teszünk óvintézkedéseket, akkor meg nem lesz baj, és mindenki azt fogja kérdezni, hogy mi szükség volt minderre.

  • A rendőrségnek nem az a feladata, hogy feljavítsa a biztonsági rendszereidet, hanem hogy elmondja, milyen fontos a megelőzés, és ha kell, elkapja az elkövetőket. Nem ülhetnek be a rendszergazdád mellé.
  • Ha helyzet van, hívd nyugodtan a rendőrséget. Nem szirénázva, piroson áthajtva futnak be, ők is tudják, hogy nem biztos, hogy a fél várossal közölni szeretnéd a problémádat, hanem civilben érkeznek, mint egy csapat biztonsági szakértő. (Szólt ugye a német rendőr, de itthon se valószínű, hogy a Merkúr Bevetési Egységet dobják a tetőre, ha betör valaki a szerveredre és ezt bejelented.)

És ezen a ponton rá is kanyarodunk a nap záró beszélgetésére, ahol is a Bellingcat oknyomozó portál alapítója, Eliot Higgins lépett a színpadra, mert ő szintén nem tudott nagyon más konklúzióra jutni, mint hogy a megelőzés, az edukáció a fontos.

Ő persze a dezinformáció felől közelített, beszélt a jól ismert visszhangkamrákról, ahol a konteósok nem találkoznak ellenvéleménnyel, a deepfake technológiák fejlődéséről, amik ma már az általános iskolákban terjednek, és arról, hogy valójában milyen minimális hatása van a fact-checking weboldalaknak, projekteknek.

A COVID idején a Bellingcatnél elég jól lemodellezték Trump megnyilvánulásain, hogyan terjednek az álhírek, az“alternatív tények”. Trump általában mond valami ösztönszerű blődséget, amit aztán azonnal osztani kezdenek a neten az alt-right csoportok, mert “triggereli a libsiket”. Aztán lassan átveszi a Fox, ahol megpróbálják megmagyarázni a nagyközönségnek, hogy “hogyan értette valójában” – innentől meg aztán free for all, mindenki azt hisz, amit akar, mert mindenkinek van saját kész magyarázata a neki megfelelő felületen, amik egymással párhuzamosak.

Itt hangzott el a címet adó mondat is: Jordan jegyezte meg, hogy a dezinformációt sokszor szinte már tudatosan fogyasztjuk, vállaltan nem mozdulunk ki a véleménybuborékunk komfortjából – avagy beinvitáljuk magunkhoz Nosferatut.

A lényeg: Eliot nem igazán hisz abban, hogy a tényekre nem fogékony, konteós tömegeket vissza lehet téríteni a racionaltás felé.

Helyette azt hangsúlyozta ő is, hogy milyen fontos lenne már az iskolákban megtanítani a kritikus médiafogyasztást, forráskritikát, a tények és valótlanságok felismerését és szétválasztását, és hogy ha megleltük az igazságot, mihez is kezdjünk vele.

“Őrület, hogy olyan időket élünk, amikor kimondani az igazságot már aktivizmusnak számít”, zárta a napot oknyomozónk.

Olvasd el ezeket is:

Kommenteld meg jól:

0 hozzászólás

Egy hozzászólás elküldése

Az e-mail címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöltük

Ez az oldal az Akismet szolgáltatást használja a spam csökkentésére. Ismerje meg a hozzászólás adatainak feldolgozását .