Ma sokszor „mesterséges intelligenciáról” beszélünk, de érdemes pontosítani az egyre-másra megjelenő és intelligensnek tartott hatalmas nyelvmodellek (LLM) célját és hasznosságát.

A mindössze néhány éve létező ún. transzformer architektúrák két nagy családja, az enkóderek és a generatív MI-nek is nevezett dekóderek. Az elmúlt másfél évben az utóbbi modellek egyre népszerűbbé váltak, és ma már a legtöbb nyelvtechnológiai feladatot ezekkel a meglehetősen nagy gépi hátteret igénylő GPT-félékkel próbálják megoldani.

A legismertebb generatív modell, a GPT speciális továbbtanításával megvalósított ChatGPT 2022 végi megjelenése óta a működést sokan ezeknek a rendszereknek általában egy-egy kérdésre adott válasza alapján „ítélik meg”, miközben ezeknek a különböző célú nyelvmodelleknek a felépítése, paraméterszáma, vagy tanítóanyagának mérete teljesen eltérő.