اجرای مدل‌های هوش مصنوعی محلی به جای استفاده از سرویس‌های ابری مانند ChatGPT و Gemini در حال رشد است. این روش امنیت اطلاعات شخصی را افزایش می‌دهد، اما به سخت‌افزار قدرتمند نیاز دارد. گوگل با انتشار Gemma 3 امکان اجرای مدل‌های کوچک‌تر را روی لپ‌تاپ، تبلت و موبایل فراهم کرده است.

مدل‌های بزرگ مانند Gemma 3 (27B) به سخت‌افزارهای بسیار قوی نیاز دارند، اما نسخه‌های 4B و 12B روی مک‌های جدید با 128GB رم قابل اجرا هستند. مزایای هوش مصنوعی محلی شامل حریم خصوصی بیشتر، کاهش تأخیر و حذف هزینه‌های اشتراک ابری است.

اپل به دلیل حافظه یکپارچه در مک‌های سری M در اجرای مدل‌های هوش مصنوعی برتری دارد. در آینده، داشتن مدل هوش مصنوعی خانگی مانند یک دستیار شخصی پیشرفته ضروری خواهد شد. این تغییر بزرگ به کاربران قدرت بیشتری می‌دهد تا بدون وابستگی به شرکت‌های بزرگ، کنترل کامل بر داده‌های خود داشته باشند.