هل يمكن لساعة يد ذكية من جيل سابق تشغيل الذكاء الاصطناعي التوليدي الحديث دون اتصال بالإنترنت بالكامل؟ في حين كان الإجماع السائد في الصناعة يفترض أن الذكاء الاصطناعي على الأجهزة يتطلب غيغابايت عديدة من الذاكرة الموحدة والمسرعات العصبية، كسر مهندسو البرمجيات هذا الافتراض للتو. وفي إنجاز تاريخي على صعيد تحسين الأداء، استعرض مطورو Better Stack كيفية تشغيل نموذج لغوي كبير محلياً ومباشرةً على ساعة Apple Watch Series 6—مع توليد ما يصل إلى 24 رمزاً في الثانية بدون هاتف iPhone أو اتصال بالإنترنت.
قد يبدو تشغيل الذكاء الاصطناعي محلياً على جهاز قابل للارتداء أُطلق في عام 2020 أمراً مستبعداً بالنظر إلى ذاكرة RAM المحدودة بحجم 1GB فقط وقيود الحماية الصارمة في watchOS. ومع ذلك، من خلال استخدام نموذج Falcon H1 خفيف الوزن بحجم 90 مليون معامل ونقل بيئة التشغيل llama.cpp، تجاوز المهندسون زمن استجابة السحابة بالكامل. وتكشف هذه النتائج عن قدرات حوسبة غير متوقعة في معالجات Apple Silicon السابقة.
واجه نشر النموذج اللغوي على watchOS حواجز برمجية جسيمة. فلم تتمكن حزمة Core ML الأصلية من Apple من تجميع بنية Falcon H1، التي تعتمد على نموذج الفضاء والحالة المتطور Mamba-2 (SSM) بدلاً من كتل الانتباه القياسية في نماذج المحولات (Transformer). ولتجاوز هذه العقبة، قام الفريق بتعديل الكود المصدري المفتوح C++ لمشروع llama.cpp ليتم تجميعه بنجاح وفق متطلبات بناء watchOS.
علاوة على ذلك، تقيد معمارية `arm64_32` في Apple Watch عنونة المؤشرات بنطاق 32 بت على الرغم من امتلاكها سجلات حسابية بنطاق 64 بت. وعبر التكميم الجريء للأوزان وتبسيط إدارة الذاكرة، حافظ Falcon H1 على بصمة استهلاك ذاكرة ثابتة تماماً بغض النظر عن عمق توليد الرموز. وتمكن النموذج بحجم 90M من إنتاج النصوص بمعدل 15 إلى 24 رمزاً في الثانية—أي أسرع بنحو 50 ضعفاً من الجيل الأول لأجهزة Raspberry Pi.
لا يقتصر التطبيق النموذجي على إخراج نصوص برمجية فحسب؛ بل يعالج الأوامر الصوتية وينفذ استدعاءات الأدوات محلياً، مثل الاستعلام من مقالات Wikipedia المحفوظة في الذاكرة المؤقتة أو تنسيق بيانات الطقس دون الحاجة للاتصال بواجهات برمجة التطبيقات (APIs) السحابية. وبينما دفعت النماذج الأكبر حجماً ذات 135M معامل العتاد إلى تجاوز الحدود الحرارية المريحة، عمل التكوين بحجم 90M بسلاسة فائقة.
الميزة المحفوظة: ذكاء اصطناعي على الجهاز يتسم بالخصوصية التامة وانعدام زمن الاستجابة، ويعمل بكفاءة في وضع الطيران الكامل، مما يلغي رسوم الاشتراكات وتتبع السحابة.
المقايضة الصريحة: يُحدث الاستدلال العصبي المحلي المستمر تراكم حرارة ملحوظاً ويسرّع من استنزاف بطارية خلايا الليثيوم أيون المدمجة.
هل ترغب في معرفة مدى تأثير أعباء العمل الخلفية المكثفة على وقت التشغيل اليومي لجهازك؟ اختبر إعداداتك عبر sensor matrix tool أو احسب استهلاك البطارية اليومي باستخدام Apple Watch battery estimator.