ماذا يحدث عند إرسال رسالة AI؟

عندما ترسل رسالة تعمل بالذكاء الاصطناعي، تنقلها الخدمة إلى مركز البيانات، وتقوم بتنسيق المحادثة، وتحويل النص إلى رموز مميزة وتوجيه الطلب إلى نموذج. يقوم النموذج بمعالجة الإدخال، ويتنبأ برمز الإخراج ويكرر هذا التنبؤ حتى تكتمل الإجابة. تقوم الخدمة بتدفق تلك الرموز مرة أخرى إلى شاشتك.

يتم استخدام الكهرباء عبر هذه السلسلة: تعمل معدات الشبكة ووحدات المعالجة المركزية والذاكرة والمسرعات، بينما تدعم أنظمة التبريد والطاقة المنشأة. قد تتضمن الإجابة النصية القصيرة مكالمة نموذجية واحدة. يمكن أن يؤدي البحث أو الملفات التي تم تحميلها أو أوضاع التفكير أو الصور أو الوكلاء إلى تشغيل عدة أنظمة. ولهذا السبب فإن "الرسالة الواحدة" ليست وحدة ثابتة للطاقة أو الكربون أو الماء.

يقوم التطبيق بإعداد الطلب وإرساله

يؤدي الضغط على إرسال إلى إنشاء طلب شبكة يحتوي على رسالتك الجديدة وأي سياق تقرر الخدمة تضمينه. قد تكون هذه هي المحادثة الأخيرة وتعليمات النظام وإعدادات النموذج والمراجع إلى الملفات أو الأدوات. تقوم الخدمات الجيدة بتشفير الاتصال وتوثيق الجلسة وتطبيق فحوصات الحجم أو السلامة قبل معالجة النموذج.

ينتقل النص عبر الشبكات المحلية والبنية التحتية للإنترنت وخوادم التطبيقات أو خوادم الموفر. بالنسبة للدردشة العادية، عادةً ما تهيمن حسابات مركز البيانات على التقدير التشغيلي، لكن الشبكة ليست خالية من التأثير حرفيًا. التخصيص الدقيق أمر صعب لأن البنية التحتية مشتركة.

الخصوصية منفصلة عن الطاقة. لا يزال من الممكن أن يكون لدى المساعد الكفؤ شروط الاحتفاظ أو التدريب غير المناسبة. لا تلصق معلومات حساسة شخصية أو مدرسية أو معلومات الشركة ما لم تسمح الخدمة وسياستك بذلك. دليل الطالب للتأثير البيئي للذكاء الاصطناعي يغطي هذا الحكم الأوسع لاستخدام الفصول الدراسية.

قد يضيف الفحص الأمني المعالجة أيضًا، على الرغم من أن مقدمي الخدمة نادرًا ما يخصصونها للإجابات الفردية.

يصبح النص رموزًا قابلة للقراءة للنموذج

لا تتلقى النماذج اللغوية الجمل تمامًا كما يراها الأشخاص. يقوم برنامج الرمز المميز بتعيين النص إلى أجزاء مرقمة تسمى الرموز المميزة. قد يكون الرمز المميز عبارة عن كلمة أو جزء من كلمة أو علامات ترقيم أو علامة تحكم خاصة. تطبق الخدمة أيضًا قالب دردشة يميز النظام والمستخدم والمساعد.

معانقة الوجه وثائق الرمز المميز يوضح كيف تصبح رسائل الدردشة المنسقة معرفات إدخال وأقنعة انتباه جاهزة للنموذج. يمكن للنماذج المختلفة ترميز نفس الجملة بشكل مختلف، لذا فإن عدد الكلمات هو مجرد وكيل تقريبي للإدخال الحسابي.

يضيف سجل الدردشة الطويل والمستندات الملصقة وصفحات الويب المستردة رموزًا مميزة. قد يقوم مقدمو الخدمة باقتطاع بعض السياق أو تلخيصه أو تخزينه مؤقتًا، لكن سلوكهم لا يكون دائمًا عامًا. تعمل الإدخالات الواضحة ذات الصلة على تقليل المعالجة غير الضرورية ويمكن أن تحسن الإجابة في نفس الوقت. إنه أكثر فائدة من الهوس بما إذا كانت الكلمة المهذبة تضيف رمزًا واحدًا.

يختار جهاز التوجيه ما يتم تشغيله

ترسل بعض الخدمات كل طلب إلى نموذج واحد. يتم توجيه الآخرين حسب التعقيد أو الاشتراك أو زمن الوصول أو اللغة أو سياسة الأمان أو الميزة المطلوبة. سؤال بسيط قد يذهب إلى نموذج صغير؛ التفكير الصعب قد يذهب إلى تفكير أكبر. يمكن للبحث وتحليل الملفات إضافة أنظمة استرجاع قبل بدء الإنشاء.

قد يقوم المساعدون الذين يستخدمون الأدوات بتشغيل حلقة: اسأل النموذج عما يجب فعله، واستدعاء البحث أو الكود، وإرجاع نتيجة الأداة إلى النموذج وإنشاء إجابة أو التحقق منها. يمكن للواجهة تقديم سير العمل بأكمله كرسالة واحدة على الرغم من حدوث العديد من المهام الخلفية.

هذا الاختلاف المخفي يجعل المقارنات بين العلامات التجارية فقط ضعيفة. اختيار مساعد الذكاء الاصطناعي حسب استخدام الطاقة توصي بالتحقق مما إذا كان مقدمو الخدمة يكشفون عن توجيه النموذج والأدوات الاختيارية والحدود المحيطة بأرقامهم. وبدون هذه المعلومات، يكون متوسط ​​كل رسالة بمثابة علامة وليس مقياسًا لطلبك المحدد.

يمكن أن يكون قرار جهاز التوجيه مهمًا أكثر من بضع كلمات إضافية في الموجه.

يقوم النموذج بمعالجة المطالبة

يبدأ الاستدلال بمرحلة التعبئة المسبقة. يقوم النموذج بمعالجة رموز الإدخال، وتنفيذ عمليات المصفوفة عبر طبقاته وإنشاء بيانات اهتمام وسيطة يمكن إعادة استخدامها أثناء الإنشاء. تزيد المطالبة الأطول عمومًا من هذا العمل الأولي والذاكرة المطلوبة لسياقه.

تستخدم بنية المحولات الانتباه لربط الرموز المميزة بالتسلسل، كما هو مذكور في ورقة البحث الاهتمام هو كل ما تحتاجه. تضيف نماذج الدردشة الحديثة العديد من التحسينات الهندسية، لكن العمليات الرقمية الكبيرة وحركة بيانات النموذج عبر الذاكرة تظل مركزية.

تقوم المسرعات مثل وحدات معالجة الرسومات أو وحدات TPU بتنفيذ هذه العمليات بالتوازي. تقوم وحدات المعالجة المركزية المضيفة وذاكرة الوصول العشوائي والوصلات البينية عالية السرعة بتنسيق عبء العمل. يمكن لمقدمي الخدمة تجميع العديد من المستخدمين معًا لتحسين الاستخدام. يمكن أن يؤدي ذلك إلى خفض الطاقة لكل إجابة، على الرغم من أنه قد يضيف وقت انتظار ويجعل الحسابات البسيطة "قوة الرقاقة مضروبة في الثواني" غير مكتملة.

تؤثر نواة البرامج والدقة الرقمية أيضًا على مقدار العمل المفيد الذي تكتمله نفس الأجهزة.

يتم إنشاء الجواب وتدفقه

بعد التعبئة المسبقة، ينتج النموذج مخرجات بشكل انحداري: فهو يحسب احتمالات الرمز المميز التالي، ويختار واحدًا وفقًا لقواعد فك التشفير الخاصة به، ويضيفه إلى السياق ويكرر. Google ويصف الباحثون القيد الأساسي بوضوح: توليد رموز مخرجات متعددة يتطلب عادة تشغيل نموذج تسلسلي، على الرغم من أن تقنيات مثل فك التشفير التخميني يمكن أن تسرع العملية.

هذا هو سبب أهمية طول الإخراج. "أعطني ثلاث رصاصات" و"اكتب تقريرًا مفصلاً" يطلبان كميات مختلفة من التوليد. قد تقوم أنظمة الاستدلال أيضًا بإنشاء رموز داخلية لا يتم عرضها، بينما يستخدم إنشاء الصور والفيديو عمليات مختلفة مرة أخرى.

يمكن للخادم إرسال كل قطعة مكتملة مرة أخرى كما تظهر، مما يؤدي إلى إنشاء تأثير الكتابة. يجعل البث الواجهة تبدو سريعة ولكن لا يعني أن الإجابة الكاملة قد تم حسابها مسبقًا. يتوقف الإنشاء عندما يُصدر النموذج علامة نهاية، أو يصل إلى الحد، أو تقوم أداة بمقاطعته، أو يقوم المستخدم بإلغاء الأمر.

يدعم المرفق الحساب

تقوم الخوادم بتحويل الكهرباء إلى حساب وحرارة. تعمل المراوح أو المضخات أو المبردات أو أبراج التبريد على إزالة تلك الحرارة. يؤدي تحويل الطاقة والإمدادات غير المنقطعة والشبكات والإضاءة إلى زيادة النفقات العامة للمنشأة. فعالية استخدام الطاقة يعبر عن إجمالي طاقة مركز البيانات مقسومًا على طاقة تكنولوجيا المعلومات، لكنه لا يقيس جودة النموذج أو الكربون أو الماء.

يعتمد الكربون التشغيلي على الكهرباء التي تزود الموقع. يمكن استهلاك المياه بشكل مباشر عن طريق التبريد وبشكل غير مباشر عن طريق توليد الطاقة. يضيف تصنيع الأجهزة وتشييد المباني تأثيرات خارج معظم التقديرات لكل رسالة. يعد التخصيص الكامل لدورة الحياة أصعب بكثير من تقدير الاستدلال التشغيلي.

يمكن أيضًا تسجيل الرد أو تخزينه مؤقتًا أو تخزينه في سجل الدردشة وفقًا لإعدادات الخدمة. تستخدم هذه الإجراءات البنية التحتية، لكن نادرًا ما يكشف مقدمو الخدمة عن معلومات كافية لتعيينهم بدقة لإجابة واحدة. تنص المحاسبة الصادقة على ما تستبعده بدلاً من إخفاء عدم اليقين وراء الكسور العشرية.

ولذلك يمكن أن تكون إعدادات الاحتفاظ مهمة بالنسبة للخصوصية حتى عندما لا يمكن عزل تأثير الطاقة الخاص بها.

ما يمكن أن يقوله إيصال الرسالة وما لا يمكن أن يقوله

يمكن للإيصال المفيد تسجيل النموذج ورموز الإدخال والإخراج وما إذا كان قد تم استخدام نظام أكبر. ويمكنه بعد ذلك تطبيق تقدير الطاقة والنفقات العامة لمركز البيانات التي تم الكشف عنها. يؤدي هذا إلى إنشاء مقارنة متسقة داخل الخدمة، حتى في حالة عدم ربط أي عداد طاقة بالاستجابة الفردية.

Treechat يتبع هذا النهج. لها المنهجية يصف تقديرًا تشغيليًا قائمًا على النموذج باستخدام معلومات النموذج والرمز، وPUE المذكور وعامل الكربون المتوسط ​​للشبكة. نتيجة المياه مشتقة من الطاقة المقدرة. إنها ليست قراءة منشأة ولا تتضمن كل تأثير على دورة الحياة.

لمزيد من الأسئلة الشائعة حول تلك الحدود، راجع الأسئلة الشائعة حول التأثير البيئي للذكاء الاصطناعي. الدرس العملي واضح ومباشر: نقرة واحدة يمكن أن تبدأ سلسلة من العمل. استخدم أبسط أداة وأصغر نموذج قادر، وحافظ على السياق ذي الصلة، واطلب المخرجات التي تحتاجها وتعامل مع أي رقم لكل رسالة كتقدير بحدود محددة.