Apple chce uniezależnić AI od chmury. Cztery Mac Studio uruchomiły model z bilionem parametrów

Apple coraz wyraźniej chce, aby Mac przestał być postrzegany wyłącznie jako komputer dla programistów i twórców. Nowe Mac Studio i Mac mini mają stać się także lokalnymi maszynami do sztucznej inteligencji, które pozwalają uruchamiać duże modele AI bez ciągłego wysyłania zapytań do centrów danych. Najbardziej spektakularny pokaz możliwości obejmował cztery połączone komputery Mac Studio, na których uruchomiono model mający bilion parametrów. Cały klaster był zasilany z jednego gniazdka.

To nie oznacza, że Apple zamierza zastąpić chmurę we wszystkich zastosowaniach AI. Firma próbuje jednak przekonać przedsiębiorstwa i deweloperów, że część zadań — przede wszystkim inference, programowanie z agentami AI, analiza danych czy praca z lokalnymi modelami — może być bardziej opłacalna na sprzęcie stojącym w biurze. Kluczowy argument jest prosty: komputer kupuje się raz, podczas gdy korzystanie z usług AI w chmurze jest zwykle rozliczane według zużycia, w tym liczby przetwarzanych tokenów.

Apple wykorzystuje przy tym specyficzne zalety swojej architektury. Mac Studio z M5 Ultra może mieć do 512 GB zunifikowanej pamięci o przepustowości 1,2 TB/s, a kilka komputerów można łączyć przez Thunderbolt 5 z technologią RDMA. W efekcie firma zaczyna wchodzić na teren, który do tej pory kojarzył się przede wszystkim z serwerami, drogimi kartami NVIDIA i infrastrukturą chmurową.

Apple chce przenieść część obliczeń AI z chmury na biurko

Strategia Apple nie polega na przekonywaniu firm, że centra danych nagle przestają być potrzebne. Chodzi raczej o przesunięcie części obciążeń AI bliżej użytkownika. Dziś przedsiębiorstwo korzystające z modeli OpenAI, Anthropic czy innych dostawców często płaci za przetwarzane tokeny albo wynajmuje infrastrukturę GPU w chmurze. Przy regularnym i intensywnym wykorzystaniu jest to koszt, który rośnie wraz z liczbą zapytań. Apple proponuje inny model: kupić odpowiednio wydajnego Maca i wielokrotnie wykonywać inference lokalnie.

Johny Srouji, szef działu sprzętowego Apple, zwraca uwagę właśnie na ten aspekt. Po zakupie komputera koszt samego korzystania z jego mocy obliczeniowej nie rośnie wraz z każdym kolejnym tokenem. Oczywiście nie oznacza to, że lokalne AI jest darmowe — pozostaje koszt sprzętu, energii, utrzymania infrastruktury i pracy administratorów — ale sposób rozliczania jest zupełnie inny niż w przypadku komercyjnego API.

Lokalne przetwarzanie może mieć również inne zalety. Dane nie muszą za każdym razem opuszczać firmowej infrastruktury, opóźnienia nie zależą od połączenia z zewnętrznym centrum danych, a organizacja może dokładniej kontrolować używaną wersję modelu. Ma to znaczenie zwłaszcza przy kodzie źródłowym, dokumentach wewnętrznych, badaniach czy innych danych, których przedsiębiorstwo nie chce przesyłać do zewnętrznych usług.

Apple próbuje więc wykorzystać boom na AI do zmiany pozycji Maca w firmach. Zamiast urządzenia końcowego korzystającego przede wszystkim z usług działających gdzieś w chmurze, Mac Studio ma sam stać się niewielkim węzłem infrastruktury AI.

Cztery Mac Studio uruchomiły model AI z bilionem parametrów

Najbardziej obrazowym przykładem nowej strategii był pokaz, podczas którego Apple połączyło cztery komputery Mac Studio w jeden klaster. Według Reutersa zestaw uruchomił model sztucznej inteligencji mający bilion parametrów i został wykorzystany do znalezienia oraz poprawienia błędu w kodzie graficznym. Firma nie podała publicznie nazwy użytego modelu, dlatego nie należy utożsamiać demonstracji z konkretnym znanym LLM-em.

Skala jest istotna przede wszystkim dlatego, że modele tej wielkości jeszcze niedawno kojarzyły się praktycznie wyłącznie z centrami danych wyposażonymi w klastry akceleratorów. Apple pokazało natomiast cztery stosunkowo niewielkie komputery stojące obok siebie. Reuters zwrócił uwagę, że cały zestaw działał z jednego gniazdka elektrycznego, co dobrze wpisuje się w narrację Apple dotyczącą efektywności energetycznej własnych układów.

Nie oznacza to oczywiście, że cztery Mac Studio mogą zastąpić pełnowymiarowy klaster używany do trenowania największych modeli AI. Pokaz dotyczył inference, czyli uruchamiania już istniejącego modelu, a nie jego trenowania od podstaw. To fundamentalna różnica pod względem potrzebnej mocy obliczeniowej.

Mimo tego demonstracja dobrze pokazuje kierunek rozwoju. Apple nie próbuje konkurować wyłącznie liczbą TOPS czy szybkością pojedynczego układu. Buduje możliwość łączenia kilku gotowych komputerów, dzięki czemu firma może zacząć od jednego Mac Studio, a później zwiększać lokalne zasoby obliczeniowe bez projektowania klasycznej infrastruktury serwerowej.

Thunderbolt 5 i RDMA zmieniają Mac Studio w mały klaster AI

Kluczowym elementem tej układanki nie jest wyłącznie procesor M5 Ultra. Apple umożliwiło łączenie kilku Maców Studio przy wykorzystaniu Thunderbolt 5 oraz RDMA — Remote Direct Memory Access. RDMA pozwala jednemu komputerowi uzyskiwać szybki dostęp do zasobów pamięci innej maszyny przy znacznie mniejszym udziale systemu operacyjnego i CPU niż w typowej komunikacji sieciowej. W systemach wysokiej wydajności podobne rozwiązania od dawna wykorzystuje się do budowania klastrów obliczeniowych.

W przypadku Mac Studio Thunderbolt 5 oferuje transfery sięgające 120 Gb/s. Apple deklaruje, że możliwość łączenia komputerów pozwala tworzyć większą pulę pamięci dostępną dla rozproszonych zadań AI. To szczególnie istotne przy dużych modelach językowych, ponieważ często barierą nie jest wyłącznie czysta moc GPU, ale możliwość umieszczenia parametrów modelu w pamięci.

Według testów Apple cztery połączone komputery Mac Studio mogą uzyskać do trzech razy wyższą wydajność podczas rozproszonego inference niż pojedynczy system. Trzeba jednak podkreślić, że jest to benchmark producenta przeprowadzony w określonych warunkach i nie powinien być traktowany jako uniwersalny wynik dla każdego modelu oraz obciążenia.

Takie rozwiązanie zmienia jednak charakter Mac Studio. Komputer, który pierwotnie kojarzył się przede wszystkim ze studiem montażowym, renderowaniem grafiki czy produkcją muzyczną, zaczyna pełnić funkcję modułowej jednostki obliczeniowej. Kilka takich urządzeń może działać jak niewielka lokalna infrastruktura AI, bez typowej szafy serwerowej.

M5 Ultra ma do 512 GB pamięci. To ona jest jedną z największych przewag w AI

W lokalnym uruchamianiu dużych modeli sama wydajność procesora nie wystarcza. Jednym z największych ograniczeń jest pamięć potrzebna do przechowywania parametrów modelu i danych wykorzystywanych podczas inference. Tutaj architektura Apple Silicon daje Mac Studio nietypową przewagę: CPU, GPU i inne jednostki korzystają ze wspólnej, zunifikowanej puli pamięci zamiast oddzielnej pamięci systemowej i VRAM przypisanej wyłącznie do karty graficznej.

Mac Studio z M5 Ultra może zostać wyposażony w maksymalnie 512 GB zunifikowanej pamięci, której przepustowość sięga 1,2 TB/s. Sam układ oferuje do 36 rdzeni CPU i 80 rdzeni GPU wyposażonych w akceleratory Neural Accelerator. Według Apple taka konfiguracja pozwala lokalnie uruchamiać bardzo duże modele językowe liczące setki miliardów parametrów.

Z punktu widzenia AI różnica jest istotna. W tradycyjnej stacji roboczej zastosowanie kilku kart GPU z dużą ilością pamięci może wymagać znacznie większej obudowy, mocniejszego zasilacza i specjalistycznej konfiguracji. Mac Studio mieści ogromną pulę pamięci w kompaktowym komputerze i pozwala łączyć kolejne maszyny, gdy pojedynczy system przestaje wystarczać.

Nie oznacza to automatycznie przewagi nad profesjonalnymi akceleratorami NVIDIA pod względem całkowitej wydajności. Ekosystem CUDA, specjalistyczne GPU i infrastruktura centrów danych pozostają bardzo mocnymi narzędziami do najbardziej wymagających zastosowań. Apple próbuje zaoferować coś innego: duży lokalny model w stosunkowo niewielkim, cichym i energooszczędnym systemie, który można po prostu postawić na biurku.

„AI bez rachunku za każdy token” to najważniejszy argument Apple

Walka o lokalne AI ma przede wszystkim wymiar ekonomiczny. Korzystanie z dużych modeli przez API jest niezwykle wygodne, ponieważ przedsiębiorstwo nie musi kupować własnej infrastruktury. Problem pojawia się wraz ze skalą. Im więcej zapytań wykonują pracownicy, agenci programistyczni czy automatyczne systemy, tym większa może być liczba przetwarzanych tokenów i miesięczny rachunek za usługę. Reuters wskazuje, że właśnie ten koszt Apple wykorzystuje jako jeden z argumentów sprzedażowych nowych Maców.

Lokalny komputer odwraca ten model. Firma ponosi duży koszt na początku, ale później może uruchamiać wybrany model wielokrotnie bez osobnej opłaty za każde zapytanie. Ma to szczególny sens przy przewidywalnych, intensywnych obciążeniach — na przykład lokalnym agencie programistycznym pracującym przez cały dzień na firmowym repozytorium albo systemie analizującym duże zbiory dokumentów.

Nie jest to jednak proste równanie, w którym zakup Mac Studio zawsze wygrywa z chmurą. Usługi cloud zapewniają elastyczne skalowanie, dostęp do najnowszych modeli, brak konieczności utrzymywania sprzętu oraz możliwość obsługi ogromnych skoków zapotrzebowania. Przy sporadycznym wykorzystaniu własny klaster może być znacznie mniej opłacalny.

Oferta Apple jest więc najbardziej interesująca tam, gdzie AI pracuje niemal bez przerwy. W takim scenariuszu pytanie przestaje brzmieć „ile kosztuje komputer?”, a zaczyna „ile tokenów przez kilka lat wygeneruje zespół?”. To właśnie na tę zmianę sposobu liczenia kosztów liczy producent Maca.

Apple wchodzi na teren Microsoftu i NVIDII, ale startuje z zupełnie innej pozycji

Apple nie jest jedyną firmą, która dostrzega potencjał lokalnej sztucznej inteligencji. Microsoft również rozwija koncepcję wykonywania coraz większej liczby zadań AI bezpośrednio na komputerze. Satya Nadella określał tę ideę jako dostęp do „unmetered intelligence” — inteligencji, której użycie nie jest mierzone przy każdym zapytaniu. Microsoft rozwija jednocześnie Windows ML i współpracuje z producentami układów nad lepszą obsługą lokalnych obciążeń AI.

NVIDIA pozostaje z kolei dominującym graczem w centrach danych AI i posiada bardzo rozwinięty ekosystem sprzętu oraz oprogramowania. Firma rozwija jednak także rozwiązania dla komputerów z Windowsem. Apple nie próbuje więc wejść na pusty rynek. Wręcz przeciwnie — konkuruje z dwoma przedsiębiorstwami, które mają bardzo silne pozycje odpowiednio w firmowych komputerach i akceleratorach AI.

Skala wyzwania jest duża. Dane IDC przytoczone przez Reuters wskazują, że Apple ma około 4,6 proc. rynku komputerów stacjonarnych i laptopów w przedsiębiorstwach, podczas gdy urządzenia z Windowsem odpowiadają za około 91,3 proc. To sprawia, że nawet atrakcyjna technologia nie oznacza automatycznie masowego przejścia firm na Maki.

Apple ma jednak przewagę wynikającą z pełnej kontroli nad sprzętem i systemem. Firma projektuje procesor, architekturę pamięci, system operacyjny i narzędzia programistyczne. Może więc optymalizować całą platformę pod konkretne obciążenia AI, zamiast dopasowywać oprogramowanie do dziesiątek kombinacji procesorów, GPU i płyt głównych różnych producentów.

Mac Studio jako komputer do AI w Polsce. Ceny zaczynają się od 12 499 zł

Nowe komputery są już dostępne również na polskim rynku. Mac Studio z M5 Max kosztuje od 12 499 zł, natomiast wersja z M5 Ultra zaczyna się od 27 999 zł. Najbardziej interesująca z perspektywy dużych modeli konfiguracja z 512 GB zunifikowanej pamięci ma pojawić się pod koniec października. To sprzęt wyraźnie kierowany do profesjonalistów, firm i zespołów badawczych, a nie typowy komputer domowy.

Niżej w ofercie znajduje się Mac mini. W Polsce model z M6 kosztuje od 4499 zł, a wariant z M5 Pro od 8499 zł. Nie zapewniają one możliwości uruchamiania modeli porównywalnych z maksymalną konfiguracją Mac Studio, ale mogą być interesujące dla mniejszych lokalnych modeli, agentów AI, programowania czy prototypowania. Apple wyraźnie buduje więc ofertę skalującą się od niedużego komputera na pojedyncze stanowisko aż po klaster kilku Maców Studio.

Dla polskiej firmy porównanie z chmurą wymaga jednak indywidualnej kalkulacji. Znaczenie ma nie tylko cena komputerów, lecz także częstotliwość wykorzystania AI, wielkość modeli, koszty energii, wymagania dotyczące bezpieczeństwa oraz potrzeba dostępu do modeli komercyjnych, których lokalnie uruchomić się nie da.

Najciekawszy może być więc model hybrydowy. Wrażliwe lub powtarzalne zadania wykonywane są lokalnie, a chmura pozostaje dostępna dla największych modeli lub chwilowych skoków zapotrzebowania. Apple nie musi całkowicie zastąpić usług cloud, żeby odebrać im część obciążeń.

Lokalne AI na Mac Studio – podsumowanie i wnioski

Apple próbuje wykorzystać nową generację Mac Studio do znacznie ambitniejszego celu niż tradycyjny rynek profesjonalnych komputerów. Cztery połączone maszyny uruchamiające model z bilionem parametrów pokazują, że lokalne AI zaczyna wychodzić poza małe modele przeznaczone do prostych zadań. Jeszcze ważniejsze jest jednak to, że firma stworzyła mechanizm umożliwiający łączenie kilku komputerów przez Thunderbolt 5 i RDMA, dzięki czemu lokalna infrastruktura może rosnąć wraz z potrzebami użytkownika.

Największym atutem Mac Studio może okazać się połączenie ogromnej zunifikowanej pamięci, wysokiej przepustowości i stosunkowo niewielkiego zapotrzebowania na przestrzeń oraz energię. Nie jest to bezpośredni zamiennik centrum danych i Apple nie rozwiązuje w ten sposób wszystkich problemów związanych z trenowaniem oraz obsługą AI. Dla inference dużych modeli na miejscu jest to jednak znacznie poważniejsza propozycja niż jeszcze kilka generacji Maców temu.

Równie ważna jest zmiana ekonomiczna. Rosnąca popularność agentów AI oznacza, że oprogramowanie może generować ogromną liczbę zapytań bez bezpośredniego udziału człowieka. W takim świecie koszt tokenów przestaje być drobną pozycją, a zaczyna przypominać stały rachunek za infrastrukturę. Apple chce przekonać firmy, że część tego rachunku można zastąpić jednorazowym zakupem własnej mocy obliczeniowej.

Nie oznacza to końca chmury. Bardziej prawdopodobny jest świat, w którym lokalne AI i cloud będą się uzupełniać. Jeśli jednak komputery stojące pod biurkiem rzeczywiście zaczną obsługiwać modele, które jeszcze niedawno wymagały infrastruktury serwerowej, granica między pecetem, stacją roboczą i lokalnym serwerem AI będzie coraz trudniejsza do wskazania.

Źródła: Apple Newsroom, Reuters, The Verge. Opracowanie własne.