EY a retras oficial un studiu despre programele de recompense și loialitate, după ce cercetătorii online au descoperit că acesta conținea halucinații generate de AI și note de subsol false, într-un exemplu clar al vulnerabilităților noilor tehnologii.
Studiul, intitulat „Points of Attack: Uncovering Cyber Threats and Fraud in Loyalty Systems”, a fost folosit de consultanții EY din Canada pentru promovarea serviciilor de securitate cibernetică. În urma verificărilor, s-a constatat că includea date inventate, citări atribuite greșit și referiri la un raport McKinsey care nu exista în realitate, conform cercetărilor online.
Citește și: Batalionul 55 Apărare Antiaeriană "Someș" a sărbătorit 75 de ani de tradiție
EY Canada a eliminat rapid raportul de pe site-ul oficial după ce grupul de cercetare GPTZero a semnalat problemele joi seară. În diferite secțiuni, valoarea pieței programelor de loialitate era estimată la 200 de miliarde de dolari, iar punctele de loialitate nefolosite erau evaluate la aceeași sumă, ceea ce ridică semne de întrebare asupra acurateței datelor.
Riscurile halucinațiilor AI în sectorul serviciilor profesionale
Halucinațiile generate de inteligența artificială au devenit o problemă recurentă în sectorul consultanței, afectând credibilitatea rapoartelor și studiilor publicate de mari firme. Rivalul EY, Deloitte, a fost nevoit anul trecut să revizuiască un raport pentru un guvern canadian după ce s-a descoperit că acesta conținea citări academice false.
- Raportul Deloitte a fost revizuit după descoperirea citărilor false în documente oficiale.
- Firma Sullivan & Cromwell și-a cerut scuze pentru citări incorecte în instanță în luna precedentă.
- Firmele de consultanță continuă să investească masiv în AI, deși riscurile de erori sunt evidente.
- EY susținea în octombrie o creștere de 30% a veniturilor legate de AI, cu 15.000 de angajați implicați în proiecte.
Impactul și reacțiile oficiale asupra situației
EY a declarat că a eliminat studiul de pe site și analizează circumstanțele care au dus la publicarea lui, precizând că nu era legat de activitatea pentru vreun client. Autoritățile și experții atrag atenția asupra riscurilor generate de AI, mai ales în contextul în care informațiile false pot influența decizii critice.
Specialiștii în securitate cibernetică și tehnologie avertizează că astfel de incidente subliniază necesitatea unor măsuri stricte de verificare și control al conținutului generat de AI, pentru a evita dezinformarea și impactul negativ asupra încrederii în aceste tehnologii.
EY, GPTZero, Deloitte, McKinsey, Sullivan & Cromwell, AI, halucinații AI, studiu fals, securitate cibernetică, încredere în AI