A MI, különösen a generatív modellek, egyre szélesebb körben támogatják a tanulást, a kutatást és a mindennapi feladatokat. Azonban a MI által előállított tartalmak nem tekinthetők automatikusan megbízhatónak vagy pontosnak. Ezért a kritikus gondolkodás és a megfelelő ellenőrzési technikák alkalmazása elengedhetetlen.

Hogyan lehet megkülönböztetni a hasznos és a félrevezető MI-tartalmat?

• Tartalmi konzisztencia: érdemes figyelni arra, hogy a MI által adott válasz logikailag összefüggő és következetes legyen. Ha a szöveg ellentmondásokat tartalmaz, gyanakodni kell. Sok esetben jól hangzik, de hiba van a következtetésben, mert valójában nem oka egyik dolog a másiknak. Az embernek magának kell eldönteni, hogy megfelelő-e a következtetés.
• Hihető?: a túlzottan leegyszerűsített, vagy éppen túlzottan részletes, de forrás nélküli magyarázatok szintén gyanúsak lehetnek.
• A forrásmegjelölés hiánya: ha a modell konkrét hivatkozásokat ad, mindig ellenőrizni kell, hogy azok valóban léteznek-e, illetve pontosan azt tartalmazzák-e, amit a MI állít. Előfordul, hogy az eredeti forrásban nem arról és nem úgy van szó, ahogy azt a MI leírta.
• Illeszkedik-e a válasz a kérdéshez: az adott kérdésre mennyire adott releváns választ a MI? A kérdésre válaszolt egyáltalán? Az irreleváns kitérők a szövegben gyakran a „félrevezető” tartalom jelei.

A „hallucináció” jelenségéről már volt szó a generatív modelleknél, de mindig érdemes ismételni, mert a generatív MI-k gyakran előállítanak olyan információt, amely nyelvileg helyes és meggyőző, de tényszerűen hibás vagy teljesen kitalált. Ezt nevezzük „hallucinációnak”. Például a MI idézhet egy olyan könyvet vagy tanulmányt, amely valójában nem létezik. Lehet, hogy helyesen adja vissza egy elmélet nevét, de hibás szerzőt társít hozzá, vagy nem arról szól az elmélet, amit a MI állít. Gyakran „kitalál” logikusnak tűnő összefüggéseket, amelyeknek nincs tudományos alapja. A hallucináció tehát nem feltétlenül szándékos félrevezetés, hanem annak a következménye, hogy a modell valószínűségi mintázatokból dolgozik, és nincs közvetlen kapcsolata a tényleges valósággal, sok esetben ha látszólag ért is miről beszél, nem rendelkezik azokkal a környezeti tényezőkkel, kulturális alapokkal, amelyek a kérdés megválaszolását segítenék.

Néhány példa:

A MI egy cikkre vagy könyvre hivatkozik: keress rá a címre az egyetemi könyvtár katalógusában vagy az előfizetett adatbázisokban (pl. CAB, Scopus, Web of Science). Pl., ha a MI azt állítja, hogy „Smith (2019) szerint a mesterséges intelligencia forradalmasítja az állategészségügyet”, nézd meg, valóban létezik-e ez a tanulmány és ezt állította-e ott a szerző.

Ellenőrizd, hogy ugyanazt az állítást akár több megbízható forrás is alátámasztja-e. Ha a MI szerint „A magyar diákok 45%-a használ MI-eszközöket napi szinten”, nézd meg a Statista adatbázisban vagy keress más forrásokból hiteles felméréseket, amelyek ezt alátámasztják. Ha sehol nem szerepel ilyen adat, ne fogadd el és ne használd fel.

A logikai következetesség vizsgálata úgy zajlik, hogy gondold végig, hogy a válasz belső logikája helytálló-e. Ha a MI azt írja, hogy „A MI egyszerre csökkenti és növeli az energiafogyasztást minden esetben”, ez ellentmondásosnak látszik, elsőre nehéz eldönteni, hogy valójában az-e. Ilyenkor kérdezz rá pontosabban és ellenőrizd a szakirodalomban is.

A nyelvezet és a stílus elemzésére akkor lehet szükség, ha a szöveg túl általános, túl magabiztos vagy túl leegyszerűsítő, mert az gyakran figyelmeztető jel. Jó példa erre a következő: „A MI minden problémát meg fog oldani a jövőben” – ez tipikusan túlzó, nem tudományos és nehezen vagy sehogy nem bizonyítható állítás.

Konzultációra is szükséged lehet, pl. ha a MI válasza fontos szakmai vagy kutatási döntéshez kapcsolódik, mert ilyenkor érdemes az oktatóval vagy témavezetővel megbeszélni. Példa lehet erre, ha egy dolgozatban a MI javasol egy statisztikai módszert. Beszéld meg egy számodra elérhető, a területen jártas szakemberrel, hogy valóban releváns-e a kutatásodhoz a felkínált képlet, a megadott képlet pontos és érted az alkalmazás mikéntjét stb.

MI alkalmazása során mindig kérdezd meg magadtól az alábbi három kritikus kérdést:

1. Biztosan létezik a hivatkozott forrás? (kérheted a könyvtárosok segítségét is, hogy mutassák meg hol és hogyan ellenőrizheted)
2. Más megbízható forrás is megerősíti az állítást? (kérheted a könyvtárosok segítségét, hogy mutassák meg hol és hogyan kereshetsz rá)
3. Logikailag és szakmailag helytálló a tartalom? (szükség esetén egyeztess a témavezetővel)