الذكاء الاصطناعي ليس ميزة تضيفها إلى منتجك
اليوم أصبح من السهل جدًا إضافة الذكاء الاصطناعي إلى أي منتج.
زر للتلخيص.
مساعد يجيب عن الأسئلة.
ميزة تكتب المحتوى نيابة عن المستخدم.
وفي العرض الأول، كل شيء يبدو رائعًا.
لكن المشكلة تظهر عندما يبدأ الناس باستخدام المنتج يوميًا.
قد يعطيك الذكاء الاصطناعي إجابة صحيحة، لكن بطريقة طويلة ومربكة.
وقد يعطيك توصية جيدة، دون أن يوضح على ماذا اعتمد.
وقد ينفذ مهمة بشكل ممتاز عدة مرات، ثم يخطئ في مرة أخرى، ولا تعرف هل تثق به أم تتحقق منه.
هنا نكتشف أن الذكاء الاصطناعي وحده لا يصنع منتجًا جيدًا.
المشكلة ليست دائمًا في النموذج.
المشكلة غالبًا في الطريقة التي صممنا بها المنتج حوله.
مثال بسيط
تخيل أنك تستخدم نظامًا يساعدك على قراءة الفواتير.
ترفع فاتورة، فيخبرك:
"الإجمالي 8,450 ريال، وتاريخ الاستحقاق 15 سبتمبر."
المعلومة مفيدة.
لكن تخيل لو عرضها لك بهذا الشكل:
الإجمالي: 8,450 ريال
تاريخ الاستحقاق: 15 سبتمبر
الضريبة: 1,102 ريال
المصدر: الصفحة الثانية
المعلومات هنا لم تتغير.
لكن التجربة أفضل.
لأن المنتج لم يعرض النتيجة فقط.
بل ساعدك على فهمها والتحقق منها بسرعة.
وهذا هو الفرق بين استخدام نموذج AI وبين بناء منتج جيد حوله.
الذكاء الاصطناعي لا يعمل مثل البرامج التقليدية
في كثير من البرامج التقليدية، تكون النتيجة محددة مسبقًا عند توفر نفس المدخلات والظروف.
أما الذكاء الاصطناعي فمختلف.
قد يعطي نتيجة مختلفة.
وقد ينتج إجابة تبدو صحيحة وهي ليست كذلك.
والأخطر أن الخطأ قد يكون مقنعًا.
لذلك لا يكفي أن نقول:
"النموذج دقيق."
السؤال الأهم هو:
ماذا يحدث عندما لا يكون متأكدًا؟
هل يعرف المستخدم ذلك؟
هل يستطيع مراجعة النتيجة؟
هل يمكنه تعديلها؟
وهل يستطيع الرجوع إلى المعلومات التي اعتمد عليها النظام؟
هذه ليست تفاصيل إضافية.
هي جزء من تصميم المنتج نفسه.
لا تبدأ دائمًا بمربع محادثة
أول فكرة تخطر على بال كثير من الفرق:
لنضع Chat داخل المنتج.
لكن هل المحادثة هي أفضل طريقة لكل شيء؟
ليس بالضرورة.
إذا كنت تستخرج أرقامًا من ملف، فالجدول أوضح.
إذا كنت تقارن خيارين، فالمقارنة الجانبية أفضل.
إذا كنت تراجع مستندًا، فقد يكون إبراز الأجزاء المهمة داخل المستند أنفع من فقرة طويلة تلخصه.
المحادثة ممتازة في بعض الحالات.
لكنها ليست واجهة سحرية لكل استخدام.
لا تجعل المستخدم يكتشف كيف يستخدم الذكاء الاصطناعي. صمّم له الطريقة المناسبة لاستخدامه.
اعرض ما سيفعله النظام قبل أن ينفذه
عندما يقوم النظام بمهمة معقدة، لا تجعل المستخدم ينتظر النتيجة ثم يكتشف أن النظام فهم الطلب بشكل خاطئ.
أعطه إشارة بسيطة عمّا سيفعله.
مثلًا:
"سأراجع آخر 6 ساعات من الطلبات وأحدد أسباب ارتفاع الأخطاء."
ثم يبدأ.
إذا كان النظام فهم المهمة بشكل خاطئ، سيكتشف المستخدم ذلك مبكرًا.
وهذا أفضل من اكتشاف المشكلة بعد اكتمال المهمة.
الخطأ المبكر أرخص من الخطأ المتأخر.
لا تجعل المستخدم يثق أكثر مما ينبغي
عندما نتحدث عن الثقة في منتجات AI، لا أعتقد أن الهدف هو أن نجعل المستخدم يثق أكثر.
الهدف هو أن يثق بالقدر المناسب.
لأن الثقة الزائدة مشكلة أيضًا.
إذا كان المستخدم يعتقد أن كل إجابة صحيحة، فقد يتوقف عن التحقق.
وفي المقابل، إذا كان لا يثق بالنظام إطلاقًا، فلن يستخدمه.
لذلك أعطه الإشارات التي يحتاجها للحكم:
- ما المصدر الذي اعتمد عليه؟
- هل هذه نتيجة مؤكدة أم اقتراح؟
- هل يمكنني تعديلها؟
- هل يمكنني مراجعة المصدر؟
- ماذا أفعل إذا كانت خاطئة؟
لا تحتاج إلى عرض كل التفاصيل في كل مرة.
أعط المستخدم ما يساعده على اتخاذ القرار.
لا تحاول منع كل الأخطاء
الهدف ليس أن نجعل الذكاء الاصطناعي لا يخطئ أبدًا.
هذا غير واقعي.
الهدف أن نجعل الخطأ:
واضحًا، وقابلًا للتصحيح، ولا يتحول إلى مشكلة أكبر.
إذا اقترح النظام نصًا، أستطيع تعديله.
إذا لخص مستندًا، أستطيع الرجوع إلى المصدر.
إذا اقترح قرارًا مهمًا، أستطيع مراجعته قبل تنفيذه.
وهنا تبدأ الثقة الحقيقية.
ليس لأن النظام لا يخطئ.
بل لأن المستخدم يعرف ماذا يفعل عندما يخطئ.
كلما زادت تكلفة الخطأ، زادت الحاجة إلى المراجعة
ليست كل استخدامات الذكاء الاصطناعي متساوية.
كتابة عنوان لمنشور؟
اترك له مساحة واسعة.
اقتراح أفكار؟
دعه يستكشف.
استخراج رقم من فاتورة؟
هنا نحتاج دقة أكثر من الإبداع.
اتخاذ قرار مالي أو قانوني أو طبي؟
هنا لا نريد من AI أن يقرر وحده.
القاعدة بسيطة:
كلما ارتفعت تكلفة الخطأ، زادت أهمية المراجعة البشرية وقلت صلاحية النظام لاتخاذ القرار منفردًا.
ضع نقطة توقف قبل الأفعال المهمة
إذا كان النظام سيقترح فقط، فالأمر بسيط.
لكن ماذا لو كان سيقوم بفعل حقيقي؟
إرسال رسالة لعميل؟
حذف بيانات؟
تنفيذ عملية دفع؟
تغيير إعداد مهم؟
هنا من الأفضل أن تكون هناك نقطة مراجعة قبل الفعل، خصوصًا عندما يكون من الصعب التراجع عنه.
دع AI يقترح، ودع الإنسان يقرر عندما تكون تكلفة الخطأ عالية.
لكن لا تضع موافقة بشرية على كل خطوة.
إذا طلبت من المستخدم تأكيد كل شيء، ستجعل المنتج أبطأ وأكثر إزعاجًا.
ضع التوقف حيث تصبح المراجعة مهمة فعلًا.
ماذا نقيس؟
كثير من الفرق تقيس:
سرعة الرد.
تكلفة الاستخدام.
عدد الطلبات.
هذه أرقام مهمة.
لكن هناك سؤال أهم:
هل أصبح المستخدم أفضل في إنجاز عمله؟
قد يكون الرد سريعًا جدًا، لكنه يحتاج خمس دقائق حتى يفهمه.
وقد تكون الإجابة صحيحة، لكن المستخدم يصححها في كل مرة.
وقد يكون النظام قويًا، لكن المستخدم لا يجد سببًا للعودة إليه.
لذلك من المفيد أن تقيس أيضًا:
كم مرة يصحح المستخدم النتيجة؟
كم الوقت الذي يحتاجه حتى يصل إلى النتيجة أو القرار؟
هل يستخدم الميزة مرة أخرى لأنه وجدها مفيدة فعلًا؟
هذه الأرقام تخبرك عن تجربة المنتج، وليس عن النموذج فقط.
لا تصمم AI ليكون مقنعًا
هناك فرق بين منتج يجعل المستخدم يقول:
"هذا الذكاء الاصطناعي رائع."
ومنتج يجعله يقول:
"أعرف ماذا يفعل، وأعرف متى أراجعه، وأستطيع تصحيح النتيجة إذا احتجت."
الثاني أكثر أهمية.
لأن الهدف ليس أن تجعل المستخدم يثق بالذكاء الاصطناعي بشكل أعمى.
الهدف أن تبني ثقة يمكن معايرتها حسب الموقف.
في المهام البسيطة، يمكن أن تكون التجربة أسرع وأكثر تلقائية.
وفي المهام الحساسة، تحتاج إلى مصادر أوضح، ومراجعة أكبر، وتحكم بشري أقوى.
الثقة الجيدة ليست ثقة أكبر، بل ثقة في المكان المناسب.
الخلاصة
إضافة الذكاء الاصطناعي إلى المنتج أصبحت أسهل من أي وقت مضى.
لكن بناء منتج جيد بالذكاء الاصطناعي ما زال يحتاج تفكيرًا.
لا يكفي أن يكون النموذج قويًا.
يجب أن تكون النتيجة واضحة.
يجب أن يعرف المستخدم متى يثق، ومتى يتحقق.
ويجب أن يستطيع تصحيح النظام عندما يخطئ.
ويجب أن تتغير درجة تدخل الإنسان بحسب تكلفة الخطأ.
لذلك قبل أن تسأل:
"أي نموذج AI نستخدم؟"
ابدأ بسؤال أهم:
"كيف نريد للمستخدم أن يعمل مع الذكاء الاصطناعي؟"
لأن النموذج القوي لا يكفي.
المنتج الجيد هو الذي يحوّل قوة الذكاء الاصطناعي إلى تجربة يستطيع الناس فهمها، ومراجعتها، والثقة بها.