EY a retras oficial un studiu despre programele de recompense și loialitate, după ce s-a descoperit că acesta conținea halucinații generate de inteligența artificială și note de subsol false, într-un exemplu elocvent despre vulnerabilitățile noilor tehnologii.
Studiul, intitulat „Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems”, fusese folosit de consultanții EY din Canada pentru promovarea serviciilor de securitate cibernetică. În urma verificărilor online, cercetătorii GPTZero au descoperit că raportul includea date inventate, citări atribuite greșit și referiri la un raport McKinsey care, de fapt, nu exista.
Citește și: Salariile în renovări: Zugravii câștigă 5.500 lei, instalatorii 5.000 lei
EY Canada a eliminat imediat studiul de pe site-ul oficial după ce problemele au fost semnalate joi seară. În document, piața programelor de loialitate era estimată la 200 de miliarde de dolari, iar valoarea punctelor de loialitate nefolosite era indicată tot la aceeași sumă, ceea ce ridică semne de întrebare asupra acurateții informațiilor.
Ce riscuri aduc halucinațiile AI în sectorul consultanței?
Halucinațiile generate de AI au devenit o problemă recurentă în sectorul serviciilor profesionale, afectând credibilitatea firmelor de consultanță. Rivalul EY, Deloitte, a fost nevoit anul trecut să revizuiască un raport pentru un guvern canadian după ce s-a descoperit că acesta conținea citări academice false.
- Raportul EY conținea date inventate și citări greșite
- Mai mult de șase note de subsol trimiteau către pagini web inexistente
- Informațiile false pot induce în eroare cercetătorii și clienții
Impactul și reacțiile oficiale la scandalul EY
EY a declarat că a eliminat studiul de pe site și analizează circumstanțele care au dus la publicarea lui, precizând că nu era legat de activitatea pentru vreun client. Compania susține că investițiile în AI au crescut cu 30% în ultimul an, iar 15.000 de angajați lucrează la proiecte de transformare digitală și guvernanță responsabilă a inteligenței artificiale.
Experții atrag atenția asupra riscurilor crescute ale încrederii în AI, mai ales în contextul în care chiar și cele mai mari corporații pot fi induse în eroare de tehnologie. În ciuda acestor incidente, firmele de consultanță continuă să investească masiv în AI, promovând implementarea acesteia în diverse domenii.
EY a precizat că studiul nu era legat de activitatea pentru vreun client și că va implementa măsuri pentru a preveni astfel de situații în viitor, consolidând astfel încrederea în serviciile sale de consultanță digitală.