Tudomány, üzlet

Létezik egy különleges logikai csapda, ahol egy probléma megoldását éppen a megoldáshoz szükséges feltételek akadályozzák. Ezt a kikerülhetetlen, önmagára hivatkozó dilemmát „a 22-es csapdájaként” (Catch-22) ismerjük, egy kifejezés, amely Joseph Heller 1961-es regényének lapjairól kilépve a modern élet egyik legtalálóbb metaforájává vált. Azóta messze túlnőtt irodalmi gyökerein, és a bürokrácia, a hatalom és a mindennapi lét abszurditásainak egyetemes szimbólumává vált.

A Google AI Overview (MI-áttekintések) bevezetése fordulópontot jelent az internet evolúciójában, és egy paradigmaváltást katalizál, amely a forgalomirányításon alapuló webről egy válaszközpontú ökoszisztémára való áttérést jelenti. Ez a generatív mesterséges intelligencia által vezérelt átalakulás alapjaiban változtatja meg azt a régóta fennálló szimbiotikus kapcsolatot, amely a keresőmotorok, a tartalomkészítők és a felhasználók között létezett.

Hány barátja van valójában az embernek? A Facebook-ismerősök száma több százra vagy akár ezerre is rúghat, de hány emberrel tartunk fenn valódi, mély kapcsolatot?

Miért olyan nehéz egy hétnél távolabbra megjósolni az időjárást? Hogyan lehetséges, hogy egy rendszerben egy apró, szinte mérhetetlen változás drámaian más végeredményhez vezet? Ezek a kérdések vezettek a modern tudomány egyik leglenyűgözőbb területének, a káoszelméletnek a megszületéséhez.

Ockham borotvája, az az elv, amelyet gyakran úgy foglalnak össze, hogy „a legegyszerűbb magyarázat általában a legjobb”, az emberi gondolkodás egyik legelterjedtebb és leghasznosabb eszköze.

A „szingularitás” kifejezés túllépett a szűk tudományos körökön, és mára a populáris kultúra visszatérő motívumává vált: filmek, újságcikkek és közéleti viták gyakori témája. Gyakran drámai felhanggal ábrázolják, elszabadult mesterséges intelligencia és alapjaiban megváltozott emberi lét képeit idézve. Bár néha szenzációhajhász módon tálalják, a mögöttes koncepció komoly figyelmet érdemel, különösen a mesterséges intelligencia (MI) fejlődésének gyorsulásával.

A játékelmélet, a stratégiai döntéshozatal matematikai modellje, számos fogalommal operál, amelyek segítenek megérteni az interakciók dinamikáját. Ezek közül az egyik legfontosabb és leggyakrabban emlegetett a zéró összegű játék. Ez a koncepció olyan helyzeteket ír le, ahol az egyik szereplő nyeresége szükségszerűen a másik szereplő veszteségét jelenti, a teljes "nyeremény" pedig állandó, azaz nulla. A zéró összegű játékok a versengés és a konfliktus alapvető modelljei, és számos területen, a sporttól a gazdaságon át a politikáig, relevánsak.

Gondoltál már arra, hogy a modern technológia, amely elvileg megkönnyíti az életünket és időt takarít meg nekünk, valójában miért nem eredményez több szabadidőt? Miért dolgozunk ugyanolyan sokat, vagy talán még többet, mint a nagyszüleink, annak ellenére, hogy mosógépek, mosogatógépek, számítógépek és okostelefonok vesznek körül minket? A válasz egy, már az ipari forradalom idején felismert jelenségben rejlik, amelyet Jevons-paradoxonnak nevezünk.

A Reverse Polish Notation (RPN) egy hatékony módszer matematikai kifejezések kiértékelésére, melynek lényege, hogy a műveleti jelek az operandusok után következnek. Ez a megközelítés lehetővé teszi a zárójelek mellőzését, így egyszerűbbé és átláthatóbbá válik a számítási folyamat. Bár elsőre eltérőnek tűnhet, az RPN alkalmazása jelentősen felgyorsítja a műveletek végrehajtását, különösen a számítógépes rendszerek és programozható számológépek terén.

Sokan a videokártyákat még mindig a játékokkal azonosítják, pedig a GPU-k sokkal többre képesek. Építésükből adódóan kiválóan alkalmasak a párhuzamos számításokra, ami elengedhetetlen a mélytanulási modellek betanításához és futtatásához. Gondoljunk csak bele: egy modern LLM több milliárd paraméterrel rendelkezik, és ezeket a paramétereket mind egyszerre kell kezelni. Ez a fajta párhuzamos feldolgozás a GPU-k igazi erőssége, míg a hagyományos CPU-k (központi processzorok) ebben a tekintetben elmaradnak.

A háttértárolók fejlődése során számos csatlakozási technológia jelent meg, amelyek mind a sebesség, mind a hatékonyság terén forradalmi változásokat hoztak. A SATA, SAS és M.2 csatlakozások ma is a legelterjedtebb megoldások közé tartoznak, de melyik mire való, és miben különböznek egymástól?

A nagy nyelvi modellek (LLM-ek) hatékony működéséhez elengedhetetlen a súlyok megfelelő tárolása és feldolgozása. A választott számformátum közvetlen hatással van a modell memóriaigényére, számítási sebességére és pontosságára. Az évek során az FP32-t fokozatosan felváltotta az FP16 és a BF16, míg az inferencia optimalizálása érdekében egyre elterjedtebbek az INT8 és alacsonyabb bitmélységű kvantált formátumok.

A nagy nyelvi modellek (LLM-ek) rohamos fejlődése új kihívásokat támaszt a számítástechnika területén. Számomra is fontos kérdés, hogy a GPU-k milyen teljesítményt nyújtanak ezen modellek futtatásakor. Ebben a bejegyzésben a TFLOPS (trillion floating-point operations per second) és a TOPS (trillion operations per second) fogalmak mentén igyekszem megvizsgálni a különböző GPU-k teljesítményét. Egy áttekinthető táblázat segítségével mutatom be az egyes modellek képességeit, rövid magyarázatokkal kiegészítve.

A videokártyák árai évek óta az egekben vannak, és ennek összetett, egymást erősítő okai vannak.

Az adatátviteli sebesség kulcsfontosságú szerepet játszik a modern számítógépek teljesítményében. Az USB, PCIe csatlakozók évtizedek óta fejlődnek, hogy egyre gyorsabb és hatékonyabb kommunikációt biztosítsanak az eszközök között. Ebben a bejegyzésben áttekintem ezeknek a csatlakozóknak a sebességeit és generációs fejlődésüket.

A modern számítógépek teljesítményét nagyban befolyásolja a memória sebessége és típusa. A DDR, GDDR és HBM memóriák különböző célokra lettek optimalizálva, legyen szó processzorok fő memóriájáról, grafikus kártyákról vagy nagy sávszélességet igénylő számítási feladatokról. Ebben a bejegyzésben összehasonlítom ezeknek a memóriáknak a sebességét, főbb paramétereit.

Sok félreértés kering a különböző számítástechnikai adatátviteli, tárolási szabványok sebességével kapcsolatban (pl. USB, SATA, DDR, PCIe, UTP stb.). Ezért készítettem több összefoglaló leírást és táblázatot a főbb szabványokról és a sebességükről.

A digitális világban a hálózati sebesség olyan alapvető tényező, ami meghatározza mindennapjainkat – legyen szó online kapcsolattartásról, játékról, videokonferenciáról vagy egyszerű böngészésről. A vezetékes (Ethernet) és vezeték nélküli (Wifi) hálózatok fejlődése az elmúlt évtizedekben óriási utat járt be. Míg a 90-es években még a másodpercenkénti néhány megabit is gyorsnak számított, ma már gigabites sebességekkel találkozhatunk otthonainkban is.

Az LLM-ek, mint például a GPT-3, a LLaMA, vagy a PaLM, hatalmas méretű neurális hálózatok. Méretüket általában a paraméterek számával jellemzik (7b, 14b, 72b stb.). Egy paraméter lényegében egy súly vagy egy bias érték a hálózatban, ami a modell "tudását" reprezentálja. A modern LLM-ek több milliárd, sőt, több százmilliárd paraméterrel rendelkeznek.

Az elmúlt években az AI (mesterséges intelligencia) forradalom új szereplőket és izgalmas technológiai megoldásokat hozott a félvezetőipar világába. Ezek közül az egyik legígéretesebb a Cerebras Systems, egy kaliforniai székhelyű startup, amely nemrég bejelentette, hogy tőzsdére lép.