كم يحتاج الذكاء الاصطناعي العربي داخل مؤسستك من أجهزة؟ ابدأ بعدد مستخدميك
حين يسألنا مدير تقنية عن عدد الخوادم التي يحتاجها Orchestra، نجيبه أولاً بسؤال: كم شخصاً من موظفيكم سيستخدمه في أكثر ساعات اليوم ازدحاماً؟
معظم عروض الذكاء الاصطناعي داخل المؤسسة تبدأ من الطرف الآخر. يختار المورّد نموذجاً كبيراً، ويحسب عدد بطاقات المعالجة الرسومية اللازمة لتشغيله، ثم يسعّر على هذا الأساس. هذا الرقم يصف النموذج ولا يقول الكثير عن مؤسستكم. وكثيراً ما تتعثّر المشاريع عند هذه النقطة، لأن الفاتورة تصل قبل أن يسأل أحد كيف سيُستخدم النظام.
أربعة أسئلة عن العمل نفسه
نبدأ الحساب بأربعة أسئلة:
- كم شخصاً سيكون متصلاً في يوم عمل عادي؟
- كم منهم سينتظر إجابة في اللحظة نفسها خلال ساعة الذروة؟
- هل ستنفّذ المساعدات مهام أطول في الخلفية، مثل قراءة دفعة من الفواتير خلال الليل؟
- كم مستنداً سيقرأ النظام، وكم مرة تتغيّر هذه المستندات؟
السؤال الثاني هو الأهم، وجوابه عادةً أقل بكثير من جواب الأول. فالموظف يقرأ الإجابة ويفكّر فيها، ثم يذهب إلى اجتماع ويعود لاحقاً. لذلك نحسب الاحتياج على ساعة الذروة، ثم نتحقق من الرقم باختبار حمل على أسئلة عربية واقعية قبل الإطلاق.
قرّروا كم يكلّفكم العطل
القرار التالي يتعلّق بالاستمرارية، وهو قرار يخصّ الإدارة أكثر مما يخصّ قسم التقنية. الإعداد المبدئي يستخدم أقل عدد من الخوادم، وإذا تعطّل أحدها يتوقف المساعد حتى يُصلَح أو يُستعاد من النسخة الاحتياطية. أما الإعداد المرن فيضيف خوادم، فيستمر المساعد في الإجابة بسعة أقل إلى أن يُصلَح الخادم المعطّل.
تجربة أولى في إدارة واحدة تحتمل عادةً توقفاً لبضع ساعات. أما مساعد تعتمد عليه الإدارة المالية والموارد البشرية كل يوم فغالباً لا يحتمل ذلك. لهذا نضع الخيارين في العرض مع سعر كل منهما، ليُتخذ القرار بوضوح.
مورّدكم هو من يسعّر الأجهزة
نوراي لا تبيع الأجهزة. نسلّمكم مواصفات قصيرة، ويسعّرها المورّد الذي تتعاملون معه أو مزوّد الخدمة السحابية. ونطلب أسعاراً لأكثر من طراز من بطاقات المعالجة الرسومية، لأنها البند الأعلى تكلفة، ولأن أسعارها وتوفّرها يتغيّران من شهر إلى آخر. بقية الخوادم أجهزة عادية يعرف فريقكم تشغيلها. ويمكن استخدام خوادم سحابية مماثلة داخل بلدكم إذا كانت أنظمتكم تسمح بذلك.
وبعد تركيب الأجهزة، لا تزيد تكلفة الاستخدام مع كل سؤال. يُرخَّص Orchestra سنوياً من دون رسوم على الرموز (tokens)، فتبقى الميزانية التي تعتمدونها هي الميزانية التي تُصرف.
لماذا يحتاج Orchestra أجهزة أقل
يحتاج Orchestra أجهزة أقل لأننا بنينا النموذج وطريقة تشغيله معاً، ومن أجل العربية. صُمّم مقسّم النصوص فيه للعربية، فتنقسم الجملة إلى أجزاء أقل ويتطلّب كل جواب عملاً أقل. كما أن النموذج لا يشغّل إلا جزءاً منه في كل إجابة، فتبقى ذاكرة أكبر متاحة للمحادثات الأخرى الجارية في الوقت نفسه.
والتوفير يتجاوز سعر الشراء. عدد أقل من البطاقات يعني استهلاكاً أقل للكهرباء وتبريداً أقل ومساحة أصغر في غرفة الخوادم. ويعني أيضاً انتظاراً أقصر للتسليم، ومدة توريد البطاقات المتقدمة قد تحدد إن كان المشروع سيبدأ هذا الربع أو في العام المقبل.
أسئلة اطرحها على أي مورّد
- لكم شخصاً في ساعة الذروة صُمّم هذا العرض، وكيف حُسب هذا الرقم؟
- ماذا يحدث للمستخدمين إذا تعطّل أحد الخوادم؟
- هل يستطيع المورّد الذي نتعامل معه تسعير هذه المواصفات؟
- ما الحد الأدنى من بطاقات المعالجة الرسومية، ومن أي طراز، ولماذا؟
- هل اختُبر هذا الحجم باختبار حمل على أسئلة عربية واقعية؟
إذا جاءك رقم كبير واحد من دون حساب لحجم العمل وراءه، فاسأل كيف وصلوا إليه. ولمعرفة أين يمكن أن يعمل Orchestra، اقرأ مقارنتنا بين التشغيل داخل المؤسسة والتشغيل السحابي.