Az AI-rendszerek hatalmas energiaigénye a félvezető ökoszisztéma fenntarthatóságát helyezi a figyelem középpontjába. A chipiparnak képesnek kell lennie hatékonyabb és kisebb teljesítményű félvezetők előállítására. A nagyobb feldolgozási sebesség iránti igény azonban növekszik a nagy nyelvi modellek széles körű elterjedésével és a feldolgozandó adatmennyiség általános növekedésével. A Gartner becslése szerint 2026-ra a szervezetek 50%-a alkalmazza majd a fenntarthatóságra épülő felügyeletet az energiafogyasztás és a szénlábnyom mutatóinak kezelésére hibrid felhőkörnyezetükben. Erre azért van szükség, mert a cég szerint 2027-re az adatközpontok 40%-a valószínűleg áramkorlátozott lesz.
A félvezetők segíthetnek a fenntarthatóságban, ha megfelelően vannak megtervezve. Ez még a maximális teljesítményre tervezett AI/ML chipekre is igaz, feltéve, hogy gyorsabban tudják elvégezni a számításokat ritkább algoritmusok használatával. Ez a felhasznált energia mennyiségének általános csökkenését eredményezi. Itt jönnek képbe az egyedi gyorsítók. Jelentős fejlesztéseket biztosíthatnak az általános célú processzorokhoz képest, amelyek gyakran párhuzamosan működnek.
Az AI növekvő lábnyoma
A számítástechnika mindenhol megtörténik, és mindezt hatékonyabbá kell tenni. Intelligens városok, intelligens infrastruktúra és intelligens közlekedés nem lehetséges intelligens technológia nélkül, és ezt egyre inkább az AI teszi lehetővé. Ahogy a mesterséges intelligencia egyre jobban beépül, a félvezető ökoszisztéma megpróbálja minimalizálni az erőforrásokra gyakorolt hatását.
A mai adatközpontok már most is hatalmas mennyiségű energiát fogyasztanak. Világszerte évente 460 terawattóra (TWh) villamos energiára van szükség. Ez megegyezik a Németország által megtermelt teljes energiamennyiséggel. Az Egyesült Államokban az adatközpontok villamosenergia-fogyasztása az Egyesült Államok teljes (~130 TWh) 2,5%-a volt 2022-ben, és ez a Boston Consulting Group adatai szerint 2030-ra várhatóan megháromszorozódik, 7,5%-ra (~390 TWh). Ez körülbelül 40 millió amerikai ház által felhasznált elektromos áramnak felel meg, ami az Egyesült Államok összes otthonának csaknem egyharmada.
"A mesterséges intelligencia képes felülmúlni az elmúlt évszázadban létrehozott összes átalakító innovációt" - mondta Imran Yusuf, az Arm's Infrastructure Group hardveres ökoszisztémákért felelős igazgatója. "A mesterséges intelligencia számítási teljesítményigénye azonban jelentős, és mivel a vállalatok rohannak kiépíteni mesterségesintelligencia-képességeiket, fennáll annak a veszélye, hogy túlszárnyalják saját fenntarthatósági céljaikat. A jövőbeli AI-modellek továbbra is nagyobbak és intelligensebbek lesznek, ami tovább növeli a számítási igényeket, ami növeli Az energiaigény egy virtuális ciklus részeként. Egyszerűen fogalmazva: nincs áram, nincs mesterséges intelligencia AI számítási rendszerek."
Mások egyetértenek. "Ez a tervezés hatékonyabbá tételén múlik" - mondta Neil Hand, a Siemens EDA marketing igazgatója. "Bármilyen algoritmust megnézhet. A hatékonyságnak vannak rendjei. Energia szempontjából a legkevésbé hatékony megközelítés az, ha a nyers kódot egy általános célú processzoron futtatjuk, és hagyjuk, hogy elforduljon – és pirítson néhány mályvacukrot a CPU fölött, mert megy. nagyon felmelegedni."
Az NVIDIA Grace Blackwell GPU-kon alapuló szerverállvány 120 kilowattot igényel. Rich Goldman, az Ansys igazgatója szerint ugyanakkor 1,{2}}-szer nagyobb teljesítményűek, mint az előző generációk, ami teljesítményegységenként 500-szor több számítási teljesítményt jelent. "Ha CPU-kból épít egy adatközpontot, és sokat szeretne dolgozni, lecserélheti a CPU-kat a legújabb GPU-kra, és csökkentheti ugyanazon számítási képességek teljesítményét. Továbbra is hatalmas energiaproblémák lesznek, mert a mesterséges intelligencia használatával több számítástechnikát végzünk, de ez segíteni fog."
Hand a speciális, Grace Blackwell típusú, mesterséges intelligencia számára készült hardverben látja a fejlesztés következő lépését, de hozzáteszi, hogy sokkal többet lehet tenni, mivel ezek még mindig általános célú chipek. Elmondta, hogy lehetséges hatékonyabb mesterséges intelligencia-chipeket építeni, amelyek célja az osztályozás, és széles osztályozással működnek.
"Ezt látjuk az NVIDIA-nál, ezt látjuk a Google-nál és sok felhőszolgáltatónál" - jegyezte meg Hand. "Vannak olyan hatékonysági szintek, amelyeket megtehetünk annak érdekében, hogy ezeket a chipeket hatékonyabban lehessen előállítani, és hogy lehetővé tegyük mindazt a fenntarthatóság körül, ami ezzel együtt jár. Ezután egy lépéssel tovább léphet az új technológiákkal, amelyek egy teljesen betanított AI-modellt használnak. és alakítsa át hardverré, ez lesz a lehető leghatékonyabb, és az energia töredékét fogja használni. Ezen a ponton be kell zárni, tehát szembe kell néznie azzal a kihívással, hogy az AI felgyorsul. és olyan gyorsan változik. Ezt látjuk az Intel és a Qualcomm közelmúltbeli bejelentéseivel a mobil processzoraikon, és az Apple már néhány generáció óta ezt teszi bármilyen neurális hálózatot is szeretne a chipen, és ez a kontinuum csak lesz."
Steve Roddy, a Quadric marketing igazgatója egyetértett. "Az AI/ML modellek robbanását kiváltó erők hatalmas kiterjedésűek. A generatív mesterségesintelligencia-hullám megváltoztatja az egyének és a vállalatok munkamódszerét; valószínűleg munkahelyek millióira lesz hatással szerte a világon. A félvezető/EDA/IP ökoszisztéma nem tudja ésszerűen meghajlítani a görbét. előrelépés a hatalmas mesterségesintelligencia-modellek fejlesztésében, amelyet a technológiai titánok évente több százmilliárd dolláros befektetése hajt meg, de a félvezető- és az IP-ipar segíthet radikálisan csökkenteni a GenAI-modellek napközbeni üzemeltetésének energiafogyasztását. -napi következtetési használat."
A GenAI-következtetés legnagyobb fenntarthatósági kihívása az üzemmódok alacsonyabb energiafogyasztású egész kvantált formátumokká való átalakítása. "A GenAI-modelleket készítő adattudományi csapatok látszólag nem veszik észre, hogy az általuk lebegőpontos formátumban közzétett referenciamodellek következtetésenként 10-szer annyi energiát fogyasztanak, mint ugyanaz a modell, amelyet egész formátumba konvertálnak (a 32b lebegőpontos szorzás-felhalmozás összehasonlítása egy 8-assal x 8 vagy 4 x 8 egész szám MAC)” – mondta Roddy. "Akár az adatközpontban, akár az eszközön történik a következtetés, az energiamegtakarítás – és az ebből adódó előnyök a fenntarthatóság felé – a kisebb fogyasztású egész formátumokká való átalakításból jelentős. Ez a hiányosság ma is fennáll, mert az új GenAI-modelleket létrehozó adattudósok matematikusok, nem beágyazottak. mérnökök."
A technológia fejlődése
Amikor a tervezőcsapat úgy dönt, hogy ideje a hardverre térni, bár az AI-algoritmusok olyan gyorsan fejlődnek, bizonyos mértékű stabilitás lesz, mondta Hand. "Kicsit olyan ez, mint amikor a TPU-k, NPU-k és XPU-k fejlődésével foglalkoztunk. Általában egy ideig nem voltak életképesek, mert az alapvető építőelemek rendszeresebben változtak. De az elmúlt néhány évben ezek az alapvető funkciók stabilizálódtak, hogy most energiahatékonyabb hardvert készítsünk. Mindig lesz új innováció, amihez új hardverre van szükség. Valószínűleg mindig többet használunk, mint mondjuk, mert az adatközpontok hatalmas energiafogyasztók, de ez az egész kérdés a termelékenység szempontjából De sok minden csak attól függ, hogy ez egy összetett mesterséges intelligencia chip.
Egy másik megfontolandó szempont az, hogy hogyan állítsunk elő elegendő energiát az adatközpont számára. Hogyan helyezheti el ezeket az adatközpontokat olyan helyekre, ahol nincs elég áram? "Gyakran látni fog adatközpontokat olyan helyeken, ahol többletteljesítmény van, és a többletteljesítményű országok adatközponti központokká válnak" - mondta Goldman. "Ott megkeresik az adatközpontot, majd kiadják az ebből a teljesítményből származó tudást."
Ehhez új és újszerű erőforrások társulnak majd. „Hallottunk már olyan mini atomerőművekről beszélni, amelyek az egyes adatközpontok energiaellátását szolgálják, és olyan alkalmazásokról, mint például az olajkutak tetejére való felhelyezésük, hogy a metán, ami most a levegőbe kerül és szennyezi a levegőt, el tudjuk égetni, és energiát termelni. akik az adatközpontokat üzemeltetik” – mondta Goldman. "Ilyen újdonságot kell beszereznünk, hogy elláthassuk ezeket az adatközpontokat."
A mesterséges intelligencia fenntarthatóságáról szóló megbeszélés szerves része az adatközpontok hatékonysága, ahol folyamatos konfliktus van az adatok mozgatásához szükséges teljesítmény és az adatok tényleges elmozdulásának mértéke között. "Azt látjuk, hogy az emberek nagyon nagy processzorokat építenek chipletekből, és ennek részben az az oka, hogy bár tudják, hogy két, egy buszon keresztül csatlakoztatott chipből egyenértékű rendszert építhetnek, de az adatok közötti áthelyezés sokba fog kerülni. a hatalom” – magyarázta Steven Woo, a Rambus munkatársa és kiváló feltalálója. "Minél jobban összehozza a dolgokat, annál kisebb távolságot kell megtennie az adatoknak, annál kevesebb energiát fordít az adatok mozgatására. De akkor az a probléma, hogy a teljesítménysűrűség nő. Több energiát kell leadnia, és meg kell tennie hát a kötélhúzás az, hogy megspórolok egy kis energiát azzal, hogy a chipek nincsenek távol egymástól, de most több energiát kell adnia a kötetnek. Le kell hűteni, ez az a kötélhúzás, amellyel a rendszerszintű építészek most szembesülnek.
Az adatközpontok szintjén egyre nagyobb mértékben alkalmazzák a fejlett hűtési technikákat a szerverekben. "Többen beszélnek a folyadékhűtésről, beleértve a hideglemezeket is" - mondta Woo. "A Google csinálta ezt, az NVIDIA pedig Grace Blackwellnek beszélt róla. Ez az a technológia, amelyet a szuperszámítógépek egy része ma is használ, és ez nem egy idegen vagy egy új technológia. Csak idő kérdése, mikor látjuk Valószínűleg lesznek olyan rendszerek, amelyek léghűtésesek a belátható jövőben, de több olyan rendszert is látni fog, amelyik kétfázisú hűtési rendszerrel rendelkezik valamilyen szivattyúzott folyadékkal.
Ennek a megközelítésnek a legvégén a merülő hűtés áll. "Lehet, hogy ez a közeljövőben nem lesz életképes adatközponti szerverhűtési megoldás, de lehet, hogy ha elfogy a kifutópálya a vezetékes folyadékokon" - tette hozzá. "Ha már képes vagy folyadékkal kezelni a hőt, akkor korlátozhatod azt a hőmérsékleti tartományt, amelyen a chip átmegy, ami azt jelenti, hogy ha termikusan körbejár, akkor lehet, hogy nem éri el a szélsőséges hőmérsékletet. Ez jó , mert akkor nincs meg a hőtágulás és -zsugorodás ebben a nagyobb tartományban, és a megbízhatósággal kapcsolatos egyéb hibák enyhülnek egy kicsit."
A nagy adatelemzés a fenntarthatóságban is szerepet játszik azáltal, hogy az adatközpontok használatán alapuló chiptervezési trendeket azonosítja. "Egész erősor van" - mondta Adam Cron, a Synopsys jeles építésze. "Az aggodalmak a kocka szintjén vannak. Aztán megvan a tábla, a rack, a rack, a farm, amiben van, majd visszamegy az átviteli vonalakig. És amit az adatközpont-menedzserek szeretnek látni, az egy Ne ringasd túl a hajót, mert ha sokat akarsz ide, akkor le kell ereszkedned oda, vagy fordítva.
Ideális esetben mindenhol csökkenne a teljesítmény. "Az adatközpontok a világ villamosenergia-fogyasztásának 1-2%-át használják fel, és gyors ütemben vannak, hogy mindezt kihasználják" - mondta Cron.
Hozam, gyárthatóság linkek
Érdekes kapcsolat van a fenntartható félvezetők előállítására irányuló erőfeszítések, valamint a hozam és a gyárthatóság között – jegyezte meg a Siemens' Hand. "Ezek a forgácsok egyre nagyobbak. Ezért a hozam egyre nagyobb problémát jelent. Minél többet tehetünk a hozammal, annál jobbak lehetünk a fenntarthatóság érdekében, mert a halott kocka az erőforrások pazarlása. A jó kocka mindig jobb dolog Mit tehetünk az EDA-félvezető ökoszisztémában. Ironikus módon bizonyos kereskedelmi megoldások mesterséges intelligenciát használnak a jobb hozam elérése érdekében A mesterséges intelligencia fenntarthatósági költségei és azok együttmûködése általában véve pozitív, de nem tudom, hogy lehet, mert nehéz megtalálni a nyers adatokat Azt mondja, hogy mennyibe kerül ezeknek a modelleknek a betanítása. és az AI-technológiák itt hasznosíthatók. Csak az EDA végzi a dolgát."
A hőelemzés és az öregedés szintén befolyásolja az AI adatközpontok fenntarthatóságát. Ez természetesen nem csak az AI-ra jellemző. Ez minden chipre vonatkozik" – mondta Hand. „Elkezdheti megérteni, mik a hőmérők a kocka szintjén, az al-kocka szintjén, hogy megértsék a következményeket. Összerakhatok egy 3D-s veremet, és megbízható lesz? Futtathatom ezeket a dolgokat kellő teljesítményszinten, hogy ne gyorsítsam fel a pusztulását? Ezek a képességek lehetővé teszik számunkra, hogy még tovább lépjünk. Továbbá, ahogy elkezdjük bővíteni a digitális iker definícióját, és elkezdjük bővíteni a benne foglaltakat, elkezdheti látni a rendszerszintű hatásokat. És bár nem kifejezetten a mesterséges intelligencia és a fenntarthatóság, itt fogunk látni nagy ugrásokat a hatékonyságban, mert jelenleg mennyi a túltervezés? Mennyi a túl sok hulladék benne? Amint elkezdhetünk következetesebb termék- és problémaszintű tervezést kialakítani, ennek is vannak előnyei. Ha vissza kell térni az AI-hoz, a valódi, több tartományt átfogó, digitális ikrekhez való hozzáféréshez szükség lesz a mesterséges intelligenciára, mert a mesterséges intelligencia elvégzi a tartományok közötti elemzést Ön helyett, valamint a helyettesítő modell kinyerését és az automatikus hűség-adaptációt. Lesz ezek mind. Minél több AI-ra van szükségünk, annál többet használunk.
Következtetés
A fenntarthatóság nem új keletű téma, de mindig is témája volt a jövőbeni vitáknak. Ez már nem így van.
"A hardver- és szoftvergyártók évek óta megértették, hogy a számítási méretezés és a fenntarthatóság ütközésbe kerülhet a valósággal, de nem kell, hogy így legyen, ha az iparág kihasználja ökoszisztéma-képességeit" - mondta az Arm's Yusuf. "Vegyük például az Arm Total Design-t, amely a félvezetőipar vezető vállalatainak ökoszisztémája, amely arra törekszik, hogy hatékony, egyedi szilíciummegoldásokat tegyen lehetővé AI/ML felhasználási esetekben. Mint ilyen, kedvezményes hozzáférést biztosít a partnereknek az Arm Neoverse Compute alrendszerekhez. (CSS), előre integrált IP- és EDA-eszközök, tervezési szolgáltatások, öntödei támogatás és kereskedelmi szoftvertámogatás is egy olyan új gondolkodásmódot képvisel, amely elősegíti az együttműködést, a rugalmasságot és az innovációt, miközben megérti, hogy a mesterséges intelligencia korának együtt kell élnie. globális fenntarthatósági célkitűzésekkel."
Ami megváltozott, az az, hogy a fenntarthatóság a "szép, ha megvan" helyett a "must have"-ra vált. Iparági vezetőként az Intel hét tippet készített az AI használatához a magas környezetvédelmi költségek nélkül. Ezenkívül az Intel úgy véli, hogy a fenntarthatósági célok eléréséhez kulcsfontosságú az AI tervezési megvalósításának tudatossága. Szándékossággal azok, akik mesterséges intelligencia-kezdeményezéseket hajtanak végre, kihasználhatják az optimalizált munkaterhelés előnyeit (további információért lásd itt), és a projekttervezés és az IT-kezelés proaktív megközelítése elengedhetetlen az AI-kezdeményezések hatásának maximalizálásához és a szénlábnyom minimalizálásához (további információért lásd itt használati esetek).
A mesterséges intelligencia fenntarthatóságra gyakorolt hatásának csökkentése alapvetően magának a technológiának köszönhető. A Quadric munkatársa, Roddy elmondta, hogy a félvezető ökoszisztéma segíthet "a gyengébb pontosságú adatformátumok használatának szükségességének általános tudatosításában, valamint automatizáltabb eszközök kiépítésében, amelyek áthidalják a szakadékot a matematikus és a beágyazott mérnökök között".
