يدخل الذكاء الاصطناعي فقط حيث توجد عملية واضحة.

التكنولوجيا لا تصحيح تدفق غير محدد

إذا كان كل شخص يقوم بالمهام بطريقة واحدة، فلا يوجد مرجع لتقييم استجابة الذكاء الاصطناعي. يمكن للنموذج أن ينتج نصاً مقنعاً ومع ذلك أن يخلق المزيد من المراجعة والخطر وإعادة العمل.

أولاً، أوصف العمل دون ذكر الأداة ما المعلومات التي تدخل، ما القرارات التي يجب اتخاذها، ما الاستثناءات التي توجد، وما الذي يجب أن يخرج في النهاية.

يبدأ بمهمة قابلة للتحقق

التطبيقات الأولى جيدة لديها حدود واضحة وتسمح لك بتحقق الإجابة قبل أن تؤثر على العميل أو العملية.

• تصنيف الطلبات وتوجيهها إلى الصف الصحيح.

• ملخص الوثائق مع الحقول الضرورية.

• إعداد إجابة أولى لمراجعة بشرية.

• العثور على اختلافات في السجلات بناء على معايير محددة.

تحديد دور الشخص

لا يجب أن تكون كل المخرجات تلقائية. في القرارات المالية أو القانونية أو الطبية أو التي تؤثر مباشرة على العميل، يجب أن يكون المراجعة صريحة. يجب أن يعرف الشخص ما يبحث عنه ويكون لديه إمكانية الوصول إلى المصدر الذي يستخدمه الذكاء الاصطناعي.

الهدف هو تقليل العمل الميكانيكي دون إخفاء المسؤولية.

قياس العملية بأكملها

وقت التوليد وحده لا يثبت أي قيمة مقارنة الوقت الإجمالي، كمية الإصلاحات، الحالات التي تتطلب الاستثناء، ونوعية الخروج المقبول.

عندما يكون التدفق واضحاً، يحتل الذكاء الاصطناعي مكاناً محدداً. عندما لا تكون هناك، فإنها تجعل المفاجأة أسرع.

كيف أختار أول حالة استخدام للذكاء الاصطناعي؟

اختر مهمة مع إدخال معروف ومخرج يمكن التحقق منه ومؤثر محدود عندما يكون هناك خطأ. تسمح تصنيف، استخراج، ملخص وإعداد المخططات عادة بالمقارنة الموضوعية. القرارات التي لا يمكن العودة إليها، والإجراءات التي لا يتم الإشراف عليها، والإجراءات المالية تتطلب المزيد من التحكم قبل أي استقلال.

وتنظم NIST إدارة مخاطر الذكاء الاصطناعي في أربع وظائف: إدارة، خريطة، قياس وإدارة ( نست إطار إدارة المخاطر الذكية , 2024). بالنسبة للصناعة الصغيرة والمتوسطة، هذا يبدأ بمسؤولية واضحة، وتسجيل الاستخدام، ومعايير الجودة، وإجابة محددة عندما يفشل النموذج.

كيف يمكنك اختبار الجودة دون الاعتماد على إثبات؟

ضع عينة من الحالات العادية والحالات الصعبة والمواقف التي لا ينبغي الإجابة عنها. مقارنة الخروج مع المعيار المقبول وتسجيل الصلاحية والإصلاحات اللازمة وقتاً في الإستعراض والخطر. إثبات اختياره من قبل المورد يظهر إمكانية. نموذج من إجراءاتها يظهر التكيف.

تقيّم أيضاً الإستمرارية. يجب أن ينتج نفس الدخول إجابات داخل حدود مقبولة. عندما يكون التباين مرتفعًا، قم بتقليل نطاقها، وتحسين السياق والتعليمات، أو حافظ على القرار مع شخص واحد.

ما الذي يجب مراقبته بعد الإطلاق؟

معدل الاستخدام، التكلفة لكل مهمة، الوقت الإجمالي، معدل التصحيح، الاستثناءات والحوادث. حفظ نسخة من النموذج والإرشادات عندما يكون ذلك ضروريًا للتحقيق في النتائج. إذا تغير النموذج، يجب اختبار الجودة مرة أخرى.

وتوصي OECD بالشفافية والأمان والمساءلة على مدار دورة حياة أنظمة الذكاء الاصطناعي ( مبادئ منظمة التعاون الاقتصادي والتنمية , 2024). في الممارسة العملية، يحتاج شخص ما إلى معرفة أين تعمل الذكاء الاصطناعي، وما هي البيانات التي يستخدمها، ومن هو المسؤول عن القرار النهائي.

ما هي الأخطاء التي تظهر في المخططات الأولى؟

• اختيار عملية كبيرة جداً للاختبار الأول.
• فقط قياس سرعة التوليد.
• لا تفصل بين الفشل من النموذج، الفشل من القاعدة، وعدم وجود سياق.
• إرسال البيانات الحساسة دون مراجعة المورد والاحتفاظ والوصول.
• تثبيت الإجراء قبل التحقق من جودة التوصية.

أسئلة متكررة عن الذكاء الاصطناعي في العمليات

هل أحتاج إلى عميل مستقل للبدء؟

لا، لا، لا تدفق الذكاء الاصطناعي يمكن أن يصنف أو يلخص أو يقترح طالما الشخص لا يزال مسؤولا عن الإجراء. هذا التصميم غالباً ما ينتج التعلم أكثر أماناً ويوضح أين يمكن أن توفر الحكم الذاتي حقاً العمل.

كيف أعرف إن كان الذكاء الاصطناعي يدفع؟

مقارنة التكلفة الإجمالية، وقتاً لإصلاحها، وتقليل الخطأ، والقدرة التي تم إطلاقها. سعر مكالمة النموذج هو جزء واحد فقط. التكامل والمراقبة والسلامة والصيانة تأتي أيضاً في الحساب.