Az új amerikai mesterséges intelligencia óriási potenciállal bírna az emberi életek megmentésére, azonban sajnos az irányítása és fejlesztése során számos problémába ütközött. Az ígéretes technológia helyett sokszor visszafelé sül el, így ahelyett, hogy s
Úgy tűnik, hogy Elsa, az amerikai Élelmiszer- és Gyógyszerügyi Hivatal mesterséges intelligenciája nem éppen a legmegbízhatóbb, ami komoly kockázatokat jelenthet az emberi élet szempontjából.
Az Egyesült Államok Élelmiszer- és Gyógyszerügyi Hivatala (FDA) 2025 júniusában mutatta be új generatív mesterséges intelligenciáját, Elsát. E rendszer célja, hogy támogassa az alkalmazottakat a tudományos vizsgálati eredmények értékelésétől kezdve egészen az FDA hatáskörébe tartozó incidensek felderítéséig, lehetővé téve számukra a hatékonyabb munkavégzést. Bár az elképzelés ígéretesnek tűnik, a rendszer működése során jelentős problémák merültek fel.
A CNN-nek adott interjúban egyes volt és jelenlegi munkatársak arról számoltak be, hogy Elsa állítólag nem létező kutatásokat kreált, vagy valós tanulmányokat torzított. "Minden, amit nem tudunk kétszer átnézni, lényegében megbízhatatlannak számít" - mondta az egyik névtelenséget kérő forrás, aki szerint a rendszer "meggyőzően hallucinál". Ez komoly aggodalomra ad okot, figyelembe véve, hogy az eszköz célja az lenne, hogy felgyorsítsa a klinikai felülvizsgálati folyamatokat, és támogassa a megalapozott döntések meghozatalát, amelyek végső soron a betegek érdekét szolgálnák.
Marty Makary, az FDA biztosa a CNN-nek adott interjújában kijelentette, hogy nem értesült a lap által felvetett problémákról. Emellett kiemelte, hogy az Elsa rendszer használata, valamint a hozzá kapcsolódó képzésen való részvétel jelenleg önkéntes az ügynökség keretein belül.
Az Egészségügyi és Humán Szolgáltatások Minisztériumának szóvivője az Engadgetnek úgy nyilatkozott, a CNN-nek adott információkat félreértelmezték és kiragadták a kontextusából. Azt is állította, hogy az informátorok elégedetlen volt dolgozók és olyanok lehettek, akik soha nem is használták a rendszert. Az FDA szerint biztonsági mechanizmusok is vannak a rendszerben, arról azonban nem tett említést, hogy az Elsa más mesterséges intelligenciákhoz hasonlóan szokott-e hallucinálni, és ha igen, akkor milyen gyakran és mértékben.
