Obsah článkuIn this article
V dynamickom svete umelej inteligencie sa opäť raz ocitá v centre pozornosti vizionár Elon Musk. Jeho nedávno založená spoločnosť xAI, ktorá si kladie za cieľ "pochopiť pravú podstatu vesmíru", sa dostala do sporu s ochrancami životného prostredia v Memphise, Tennessee. Tento incident však predstavuje len špičku ľadovca v rozsiahlom ekosystéme dátových centier, ktoré poháňajú Muskove ambiciózne projekty v oblasti AI.
Kontroverzia v Memphise
Podľa správy zverejnenej 28. augusta 2024 environmentálni aktivisti tvrdia, že xAI prevádzkuje plynové turbíny na napájanie svojho dátového centra v Memphise bez potrebného povolenia. Tieto turbíny údajne emitujú znečisťujúce látky do ovzdušia, čím prispievajú k už existujúcemu problému so smogom v meste.
Memphis už dlhodobo bojuje s problémami kvality ovzdušia. Okres, v ktorom sa nachádza dátové centrum xAI, dostal od Americkej pľúcnej asociácie hodnotenie "F" za zlú kvalitu ovzdušia. Aktivisti sa obávajú, že neautorizované emisie z dátového centra xAI by mohli ešte viac zhoršiť túto už aj tak kritickú situáciu.
Gigafactory of Compute
Napriek kontroverziám, plány xAI v Memphise sú grandiózne. Spoločnosť buduje to, čo nazýva "Gigafactory of Compute" - údajne najväčší superpočítač na svete. Toto zariadenie bude umiestnené v dátovom centre s výkonom 150 megawattov (MW) v priemyselnom parku neďaleko rieky Mississippi v juhozápadnom Memphise. Konkrétne bude dátové centrum okupovať bývalý 750 000 štvorcových stôp veľký závod Electrolux v oblasti Boxtown v južnom Memphise.
Elon Musk plánuje, že nové zariadenie xAI bude plne funkčné do jesene 2025, čo predstavuje investíciu v hodnote niekoľkých miliárd dolárov do Memphisu. V rámci tohto záväzku xAI plánuje investovať 24 miliónov dolárov do novej elektrickej rozvodne a zabezpečila si prísľub kapacity 150 MW od Memphis Light, Gas and Water (MLGW) do konca roka 2024.
Známy aj ako Memphis Supercluster, systém bude využívať jedinú sieť remote direct memory access (RDMA) na prepojenie až 100 000 GPU NVIDIA H100. Servery pre superpočítač xAI v Memphise dodávajú spoločnosti Dell a Supermicro.
Masívna výpočtová sila
Elon Musk v júli oznámil, že xAI začalo trénovať svoje AI modely s využitím 100 000 procesorov Nvidia H100. Táto informácia naznačuje obrovský rozsah operácií a potenciálne vysokú energetickú náročnosť centra.
xAI v súčasnosti trénuje Grok-2 s použitím 20 000 GPU NVIDIA H100. Elon Musk odhaduje, že Grok-3 bude vyžadovať 100 000 GPU. S týmto cieľom krátkodobé plány xAI pre dátové centrá zahŕňajú:
- Nasadenie tréningového klastra so 100 000 GPU NVIDIA H100 s vodným chladením do konca roka 2024
- Pridanie ďalšieho klastra s 300 000 GPU NVIDIA B200 (Blackwell) od leta 2025
Rýchly rast a vysoké ambície
xAI, ktoré bolo založené len v roku 2023, už stihlo získať financovanie vo výške 6 miliárd dolárov pri valuácii 24 miliárd dolárov. Elon Musk v súčasnosti žiada predstavenstvo Tesly o schválenie 5 miliardovej investície do xAI.
Širší kontext: Dátové centrá Elona Muska
Dátové centrá sú kľúčové pre mnohé spoločnosti, ktoré Elon Musk založil, spoluzaložil alebo sa na nich významne podieľa, vrátane Tesly, X Corp (Twitter) a xAI. Tieto spoločnosti sa spoliehajú na dátové centrá pri spracovaní, ukladaní a analýze obrovského množstva používateľských a prevádzkových dát.
Tesla
Tesla využíva dátové centrá na spracovanie a ukladanie masívneho množstva dát zhromaždených z miliónov elektrických vozidiel (EV) po celom svete. Tieto dáta zahŕňajú údaje zo senzorov, informácie o správaní pri jazde, výkone autopilota a aktualizáciách softvéru cez vzdialený prístup.
Tesla nasadila viac ako 35 000 GPU NVIDIA H100 pre svoj AI tréningový klaster pre samočinné riadenie a do konca roka 2024 plánuje zvýšiť svoju kapacitu na takmer 90 000 ekvivalentných GPU NVIDIA H100.
Kľúčovou súčasťou infraštruktúry Tesly je superpočítač Dojo, ktorý používa vlastné čipy D1 špeciálne navrhnuté pre tréning AI. Tesla plánuje investovať viac ako 1 miliardu dolárov do vývoja Doja.
X Corp (formerly Twitter)
X Corp (predtým Twitter) využíva dátové centrá na ukladanie a spracovanie obrovského množstva používateľských dát vrátane tweetov, priamych správ a nahrávaných médií. Od Muskovej akvizície za 44 miliárd dolárov v októbri 2022 spoločnosť racionalizuje svoju IT infraštruktúru.
X Corp nedávno zakúpil 10 000 GPU NVIDIA na vývoj AI s cieľom vybudovať on-premises GPU superpočítačové klastre. Spoločnosť prevádzkuje dátové centrá na viacerých kľúčových miestach v USA, vrátane Atlanty v Georgii a Hillsboro v Oregone.
xAI
xAI využíva dátové centrá na poskytovanie výpočtového výkonu a úložiska potrebného na trénovanie a prevádzku svojho AI chatbota Grok. Tieto dátové centrá sa zaoberajú úlohami, ako je trénovanie veľkého jazykového modelu na používateľských dátach X Corp (Twitter), vykonávanie inferencií a ukladanie obrovského množstva dát.
Okrem plánovaného zariadenia v Memphise xAI v súčasnosti prenajíma približne 16 000 GPU NVIDIA H100 od Oracle Cloud a uzavrela zmluvu na 24 000 GPU NVIDIA H100 od Oracle Cloud na trénovanie Grok-2. Spoločnosť tiež využíva cloudové služby od Amazon Web Services (AWS) a využíva voľnú kapacitu v dátových centrách X Corp (Twitter).
Otázky do budúcnosti
Táto situácia vyvoláva mnoho otázok o udržateľnosti rýchlo sa rozvíjajúceho odvetvia umelej inteligencie. Ako môžeme vyvážiť potrebu výpočtového výkonu pre pokrok v AI s ochranou životného prostredia? Aká je zodpovednosť technologických gigantov voči komunitám, v ktorých pôsobia?
Zatiaľ čo xAI sľubuje revolúciu v oblasti umelej inteligencie, tento incident nám pripomína, že technologický pokrok nesmie byť na úkor životného prostredia a zdravia miestnych komunít. S tým, ako Elon Musk a jeho spoločnosti pokračujú v rozširovaní svojej AI infraštruktúry, bude kľúčové nájsť rovnováhu medzi inováciami a zodpovednosťou voči životnému prostrediu.
In the dynamic world of artificial intelligence, visionary Elon Musk is once again in the spotlight. His recently founded company, xAI, which aims to “understand the true nature of the universe,” has found itself in a dispute with environmentalists in Memphis, Tennessee. However, this incident represents just the tip of the iceberg in the vast ecosystem of data centers that power Musk’s ambitious AI projects.
The Controversy in Memphis
According to a report published on August 28, 2024, environmental activists claim that xAI is operating gas turbines to power its data center in Memphis without the necessary permits. These turbines allegedly emit pollutants into the air, contributing to the city’s existing smog problem.
Memphis has long struggled with air quality issues. The county where the xAI data center is located received an “F” rating from the American Lung Association for poor air quality. Activists fear that unauthorized emissions from the xAI data center could further exacerbate this already critical situation.
Gigafactory of Compute
Despite the controversies, xAI’s plans in Memphis are ambitious. The company is building what it calls the “Gigafactory of Compute”-reportedly the world’s largest supercomputer. This facility will be located in a 150-megawatt (MW) data center in an industrial park near the Mississippi River in southwest Memphis. Specifically, the data center will occupy a former 750,000-square-foot Electrolux plant in the Boxtown area of south Memphis.
Elon Musk plans for the new xAI facility to be fully operational by fall 2025, representing an investment of several billion dollars in Memphis. As part of this commitment, xAI plans to invest $24 million in a new electrical substation and has secured a 150 MW capacity commitment from Memphis Light, Gas and Water (MLGW) by the end of 2024.
Also known as the Memphis Supercluster, the system will use a single remote direct memory access (RDMA) network to interconnect up to 100,000 NVIDIA H100 GPUs. The servers for xAI’s supercomputer in Memphis are supplied by Dell and Supermicro.
Massive Computing Power
Elon Musk announced in July that xAI had begun training its AI models using 100,000 NVIDIA H100 processors. This information suggests the enormous scale of operations and the center’s potentially high energy consumption.
xAI is currently training Grok-2 using 20,000 NVIDIA H100 GPUs. Elon Musk estimates that Grok-3 will require 100,000 GPUs. With this goal in mind, xAI’s short-term plans for data centers include:
– Deploying a training cluster with 100,000 water-cooled NVIDIA H100 GPUs by the end of 2024
– Adding another cluster with 300,000 NVIDIA B200 (Blackwell) GPUs starting in the summer of 2025
Rapid growth and high ambitions
xAI, which was founded as recently as 2023, has already secured $6 billion in funding at a $24 billion valuation. Elon Musk is currently seeking approval from Tesla’s board for a $5 billion investment in xAI.
Broader context: Elon Musk’s data centers
Data centers are critical to many companies that Elon Musk has founded, co-founded, or has a significant stake in, including Tesla, X Corp (Twitter), and xAI. These companies rely on data centers to process, store, and analyze vast amounts of user and operational data.
Tesla
Tesla uses data centers to process and store massive amounts of data collected from millions of electric vehicles (EVs) worldwide. This data includes sensor data, information on driving behavior, Autopilot performance, and over-the-air software updates.
Tesla has deployed more than 35,000 NVIDIA H100 GPUs for its AI training cluster for autonomous driving and plans to increase its capacity to nearly 90,000 NVIDIA H100 GPU equivalents by the end of 2024.
A key component of Tesla’s infrastructure is the Dojo supercomputer, which uses proprietary D1 chips specifically designed for AI training. Tesla plans to invest more than $1 billion in Dojo’s development.
X Corp (formerly Twitter)
X Corp (formerly Twitter) uses data centers to store and process vast amounts of user data, including tweets, direct messages, and uploaded media. Since Musk’s $44 billion acquisition in October 2022, the company has been streamlining its IT infrastructure.
X Corp recently purchased 10,000 NVIDIA GPUs for AI development with the goal of building on-premises GPU supercomputing clusters. The company operates data centers in several key locations across the U.S., including Atlanta, Georgia, and Hillsboro, Oregon.
xAI
xAI uses data centers to provide the computing power and storage needed to train and operate its AI chatbot, Grok. These data centers handle tasks such as training a large language model on X Corp’s user data (Twitter), performing inferences, and storing massive amounts of data.
In addition to the planned facility in Memphis, xAI currently leases approximately 16,000 NVIDIA H100 GPUs from Oracle Cloud and has signed a contract for 24,000 NVIDIA H100 GPUs from Oracle Cloud to train Grok-2. The company also uses cloud services from Amazon Web Services (AWS) and leverages spare capacity in X Corp (Twitter) data centers.
Questions for the Future
This situation raises many questions about the sustainability of the rapidly developing artificial intelligence industry. How can we balance the need for computing power to advance AI with environmental protection? What is the responsibility of tech giants toward the communities in which they operate?
While xAI promises a revolution in artificial intelligence, this incident reminds us that technological progress must not come at the expense of the environment and the health of local communities. As Elon Musk and his companies continue to expand their AI infrastructure, it will be crucial to strike a balance between innovation and environmental responsibility.
Private AI Office · AI Worklab 90
Spoznajte pracovné prostredie pre bezpečnú a praktickú spoluprácu s AI.Explore a workspace for secure, practical collaboration with AI.
Preskúmať Private AI OfficeExplore Private AI Office