Az MI-nek jobb a szókincse, mint az embereknek


Az MI-nek jobb a szókincse, mint az embereknek
Olvasási idő: 2 perc

A mesterséges intelligencia alapú szoftverek verbális intelligenciáját vizsgálták az ELTE PPK-n.

A kutatás során kiderült, hogy a gépek még a doktori fokozattal rendelkező anyanyelvi beszélőket is maguk mögé utasítják szóismeretükben. A nagy nyelvi modellek (LLM – large language models) olyan mesterségesintelligencia-típusok, amelyek képesek ember alkotta szövegekhez hasonló tartalmak létrehozására. Ezek a modellek – például a népszerű ChatGPT – forradalmi változást hoztak a mesterséges intelligencia világában. A szakembereket régóta foglalkoztatja az is, hogy mennyire intelligensek a gépek az emberhez képest. A klasszikus összehasonlító tesztek (mint például a Turing-teszt) viszont nem képesek differenciálni az emberi teljesítmény tekintetében. Csak azt lehet mérni velük, hogy a gépek mennyire képesek utánozni az emberi kogníció univerzális aspektusait, például a kommunikációs készséget. Ezzel szemben az emberi intelligencia vizsgálata épp az egyéni különbségekre fókuszál – maga az IQ is egy olyan relatív mutató, amely a teljesítményünket másokéhoz viszonyítja. Vajon az MI-nek jobb a szókincse, mint az embereknek?

Egyes kutatók szerint az MI intelligenciáját úgy lehet a legjobban mérni, ha a modellekkel embereknek tervezett pszichometriai teszteket végeztetünk el.

Ennek fényében Kovács Kristóf, az ELTE PPK tudományos főmunkatársa, a Kognitív Képességek Kutatócsoport vezetője és a tesztező platformokkal foglalkozó Klein Balázs vizsgálatukban két mesterséges intelligencia alkalmazás (ChatGPT és Bing) verbális intelligenciáját hasonlították össze több mint 9000 emberével.

Ehhez egy számítógépes adaptív szókincstesztet használtak. Kilenc felsorolt szó közül mindig azt a kettőt kellett kiválasztani, amelyek jelentésben a legközelebb álltak egymáshoz. Az adaptív tesztelés során egy algoritmus választja ki az elemeket egy kérdésbankból úgy, hogy a nehézségi szint mindig közel legyen az alany képességeihez. Ezáltal pontosabb eredményt kaphatunk, mint egy fix kérdésekből álló teszt esetén.

A teszten mindkét nyelvi modell magas teljesítményt nyújtott, elmondható, hogy az MI-nek jobb a szókincse, mint az embereknek. 20-ból 19 embernél – azaz az emberek 95%-ánál – jobb eredményt értek el, és jobban teljesítettek a doktori fokozattal rendelkező anyanyelvi beszélőknél is. Ha ezek a gépek emberek lennének, kiemelkedő tehetségnek számítanának – hívják fel a figyelmet a szerzők, akik szerint valószínűsíthető, hogy a mesterséges intelligencia alkalmazásoknak a közeljövőben az emberek 100%-ánál jobb szókincsük lesz.

A gépek kiemelkedő teljesítményük ellenére azonban vétettek néhány hibát is.

Az ismétlődő kérdések 42%-ánál eltérő válaszokat adtak az egyes alkalmakkor – ilyen az emberek esetében nem történik. Emellett esetenként „hallucinációik” is voltak: olyan szavakkal válaszoltak, amelyek nem szerepeltek a megadott opciók között. (Ez akkor is megtörtént, ha korábban már megválaszolták helyesen az adott kérdést. Tehát nem arról volt szó, hogy nem tudták a megoldást.) Ezek a hibák azonban nem a szoftverek hiányosságaira utalnak, hanem sokkal inkább arra mutatnak rá, hogy az embereknek szánt pszichometriai teszteknek a mesterséges intelligencia esetében vannak korlátai.

Az eredményeket olvasva felmerülhet a kérdés, miként különböztethetjük meg a mesterséges intelligencia által generált tartalmakat és az ember által írt szövegeket, ha már a gépek is ilyen magas verbális teljesítményre képesek. A kutatók azt tanácsolják, ne a túl felszínes, hanem épp a túl szofisztikált kommunikáció esetén fogjunk gyanút. Hiszen könnyen előfordulhat, hogy egy AI szoftver színesebb szókincsből dolgozik, mint mi.



Previous 2024-es Ig Nobel-díj – az őrült tudomány díjátadó ünnepsége
Next Zajos világunk története

No Comment

Leave a reply

Az e-mail címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöltük

12 − négy =