لماذا يستخدم الذكاء الاصطناعي الكثير من الطاقة؟

يستخدم الذكاء الاصطناعي طاقة كبيرة لأن إنتاج الإجابة يتطلب العديد من العمليات الرقمية على شرائح متخصصة، ونقل بيانات النموذج بشكل متكرر عبر الذاكرة، ثم دعم تلك الأجهزة بالشبكات وتحويل الطاقة والتبريد. تتطلب النماذج الكبيرة والمطالبات الطويلة والمخرجات الطويلة عمومًا المزيد من العمل. يضيف التدريب تكلفة طاقة منفصلة ومركزة؛ إن خدمة ملايين الطلبات اللاحقة تضيف طلبًا مستمرًا.

ليست كل مهمة للذكاء الاصطناعي كبيرة. يمكن لنموذج نصي صغير يجيب على سؤال قصير أن يستخدم جزءًا من الواط ساعة وفقًا للتقديرات الحديثة. ويكمن مصدر القلق في الجمع بين النماذج المطلوبة والاستخدام المتزايد والمرافق المبنية بكثافة طاقة غير عادية. تقول وكالة الطاقة الدولية إن الخوادم المتسارعة، المدفوعة بشكل أساسي من خلال اعتماد الذكاء الاصطناعي، تعد مصدرًا رئيسيًا لنمو الكهرباء المتوقع في مراكز البيانات في بلدها. تحليل الطاقة والذكاء الاصطناعي.

الجواب هو سلسلة من الحسابات

تقوم نماذج اللغة بتخزين العلاقات العددية المستفادة في المعلمات. عند وصول المطالبة، تقوم المعالجات بدمج المدخلات مع تلك المعلمات من خلال عمليات مصفوفة كبيرة. يتنبأ النموذج بعد ذلك بالرمز المميز، ويضيفه إلى السياق ويكرر العملية للرمز المميز التالي.

إن حلقة الرمز المميز هذه هي سبب أهمية طول الإخراج. إن طلب إجابة موجزة وطلب كتاب ليسا نفس الوظيفة. الإدخال مهم أيضًا: يجب معالجة المحادثة الطويلة أو المستند الذي تم تحميله قبل وأثناء الإنشاء. تنتج بعض أنظمة الاستدلال أيضًا رموزًا داخلية لا يراها المستخدم أبدًا.

تعتمد الكهرباء الدقيقة على أكثر من عدد المعلمات. تؤثر بنية النموذج والدقة العددية والوصول إلى الذاكرة ونواة البرامج وتوليد المسرعات على مقدار العمل المفيد الذي يتم تسليمه لكل واط.

لا تقوم الشريحة ببساطة "بمعرفة" النموذج دون عمل بدني. يجب أن تنتقل المعلمات والقيم المتوسطة بين الذاكرة ذات النطاق الترددي العالي والمعالجات. يمكن أن تصبح سعة الذاكرة وعرض النطاق الترددي قيودًا، خاصة بالنسبة للنماذج الكبيرة. إن الحفاظ على تغذية الأجهزة بالبيانات يكلف طاقة حتى عندما يتم تحسين العمليات الحسابية نفسها بشكل كبير.

يساعد هذا في تفسير سبب فعالية النموذج الأصغر أو المضغوط. إذا كانت هناك حاجة إلى قراءة عدد أقل من الأوزان وإجراء عدد أقل من العمليات لكل رمز مميز، فقد ينخفض ​​عبء العمل. يمكن لنماذج خليط الخبراء أيضًا تنشيط جزء فقط من إجمالي معلماتها للرمز المميز، على الرغم من أن تصميم التوجيه والخدمة لا يزال مهمًا.

تمت تغطية السؤال العملي في هل تستخدم نماذج الذكاء الاصطناعي الصغيرة طاقة أقل؟. يعد الحجم إشارة مهمة، ولكنه ليس قياسًا كاملاً للطاقة.

أجهزة الذكاء الاصطناعي كثيفة الطاقة

تم تصميم المسرعات الحديثة لأداء عدد هائل من العمليات بالتوازي. يمكن لحامل مملوء بهذه الخوادم أن يستهلك طاقة أكبر بكثير من حامل الخوادم التقليدية. يقوم التدريب والخدمة أيضًا بتوصيل العديد من الشرائح من خلال شبكات سريعة، مما يزيد من الطلب على الكهرباء.

تشير وكالة الطاقة الدولية إلى أن مراكز البيانات التي تركز على الذكاء الاصطناعي يمكن أن تحتوي على كميات كبيرة جدًا ومركزة جغرافيًا. وهذا يخلق مشكلة تخطيط مختلفة عن نفس كمية الاستهلاك المنتشرة في جميع أنحاء البلاد. يجب أن تكون اتصالات الشبكة والمحطات الفرعية والتوليد متاحة في المكان والوقت المناسبين.

معهد بحوث البترول تعزيز سيناريوهات الاستخبارات تعكس حالة عدم اليقين: يتغير الطلب على مراكز البيانات الأمريكية في المستقبل على نطاق واسع اعتمادًا على افتراضات التطوير والاستخدام. ولذلك فمن الأفضل قراءة توقعات الكهرباء باعتبارها مسارات مشروطة، وليس وعودا.

يستخدم المبنى المحيط بالرقائق الطاقة أيضًا

الخوادم ليست سوى جزء من مركز البيانات. التبريد يزيل الحرارة. تقوم المضخات والمراوح بتحريك الهواء أو السائل. تقوم أنظمة الطاقة بتحويل الكهرباء وتوفير النسخ الاحتياطي. تعمل وحدات التخزين والمعالجات التقليدية ومعدات الشبكات على تنسيق عبء العمل.

غالبًا ما يلخص المحللون هذه النفقات العامة بفعالية استخدام الطاقة، أو PUE: إجمالي كهرباء المنشأة مقسومًا على الكهرباء المستخدمة بواسطة معدات تكنولوجيا المعلومات. إن PUE بقيمة 1 يعني عدم وجود نفقات عامة، وهو ما لا تستطيع المرافق الحقيقية تحقيقه. إن انخفاض مستوى PUE هو الأفضل، لكنه لا يوضح مدى كفاءة نموذج الذكاء الاصطناعي نفسه.

هذه الحدود مهمة عند المقارنة تكلفة الطاقة لرسالة واحدة من الذكاء الاصطناعي. يمكن أن يختلف التقدير الخاص بالشريحة فقط والتقدير على مستوى المنشأة حتى لو كان كلا الحسابين سليمين داخليًا.

التدريب كبير؛ الاستدلال لا هوادة فيه

يعرض التدريب النموذج لمجموعات بيانات ضخمة ويقوم بتحديث معلماته عبر العديد من المعالجات. ويمكن أن يستمر لعدة أيام أو أكثر، مع إضافة التجارب وعمليات التدريب المهملة إلى ما بعد التشغيل الناجح النهائي. الإجماليات العامة نادرة، ومن الصعب مقارنة أرقام التدريب الرئيسية عندما تختلف حدود الأجهزة والموقع والمحاسبة.

يكون الاستدلال أصغر لكل مهمة ولكنه يحدث في كل مرة يسأل فيها شخص ما. يمكن للنموذج المستخدم بكثافة أن يستهلك في النهاية من خلال الاستدلال أكثر من التدريب؛ قد لا يكون النموذج المستخدم بخفة. يمكن للميزات التي تجري مكالمات متعددة - البحث أو الوكلاء أو تحليل الصور أو الفحص الذاتي المتكرر - تحويل إجراء مرئي واحد إلى عدة وظائف خلفية.

وهذا هو السبب في أن "الموجه الواحد" ليس وحدة فنية دائمة. ما تفعله الخدمة بعد المطالبة لا يقل أهمية عن الكلمات المكتوبة قبلها.

لا يزال من الممكن أن يعني الذكاء الاصطناعي الأكثر كفاءة المزيد من الكهرباء

تتحسن كفاءة الذكاء الاصطناعي من خلال تحسين الرقائق، والتكميم، والتناثر، والتجميع، وتصميم النماذج. لوتشيوني، جيرنيت وستروبلز مقارنة أعباء العمل الاستدلالية يُظهر أيضًا أهمية اختيار المهمة والنموذج: يمكن أن تتطلب الأنظمة التوليدية ذات الأغراض العامة طاقة أكبر بكثير من النماذج الخاصة بمهمة محددة للمهام التي تم تقييمها.

ومع ذلك، فإن الإجابة الرخيصة يمكن أن تؤدي إلى المزيد من الإجابات. تتم إضافة الذكاء الاصطناعي إلى البحث والبرامج المكتبية والترميز ودعم العملاء وتوليد الوسائط. ويرتفع إجمالي الطلب إذا زاد عدد المهام بشكل أسرع من انخفاض الطاقة لكل مهمة. وهذه هي الطريقة التي يمكن أن يكون بها تحسين الكفاءة وزيادة استخدام الكهرباء صحيحين.

وتتوقع الحالة الأساسية لوكالة الطاقة الدولية ارتفاع استهلاك الكهرباء في مراكز البيانات العالمية من حوالي 415 تيراواط في الساعة في عام 2024 إلى حوالي 945 تيراواط في الساعة في عام 2030. وهي تعزو النمو إلى الذكاء الاصطناعي فضلا عن الخدمات الرقمية الأخرى، لذلك لا ينبغي إعادة تصنيف الإجمالي على أنه الذكاء الاصطناعي وحده.

ما يمكن للمستخدمين والخدمات تغييره

على مستوى الخدمة، تتمثل الروافع الرئيسية في اختيار أصغر طراز قادر، وتحسين الاستخدام، والحد من استدعاءات الأدوات غير الضرورية، واستخدام أجهزة فعالة وتحديد موقع العمل المرن حيث تتوفر كهرباء منخفضة الكربون. على مستوى المستخدم، يمكن للمطالبات الموجزة وحدود المخرجات المعقولة واستخدام البرامج العادية عندما تقوم بالمهمة أن تتجنب الحسابات غير الضرورية.

Treechat يقوم بتوجيه الأسئلة اليومية إلى نموذج أصغر ويقدر طاقة كل إجابة من استخدام النموذج والرمز المميز. يتضمن الإيصال بدلًا محددًا للنفقات العامة لمركز البيانات؛ يبقى تقديرًا لأن مقدمي الخدمة لا يعرضون مقياسًا لكل إجابة. لدينا المنهجية يسرد الافتراضات الحالية.

يستخدم الذكاء الاصطناعي الطاقة لأسباب فيزيائية مفهومة، وليس لأن المحفزات تتحول بشكل غامض إلى تلوث. تتمثل الاستجابة المفيدة في جعل المهمة الحسابية مرئية، وتقليلها حيثما أمكن، والاحتفاظ بأنظمة أكبر للعمل الذي يحتاج إليها حقًا.