غالبًا ما يتم تقديم حلول الهوية المعتمدة على الذكاء الاصطناعي كإجابة ناضجة للتحكم في الوصول الحديث: تحقق أكثر ذكاءً، واحتكاكًا أقل، وأمانًا أفضل، ومستخدمين أكثر سعادة. من حيث المبدأ، نعم. ومن الناحية العملية، فإنهم يجرون خلفهم أيضًا حقيبة ضخمة إلى حد ما من الالتزام والخصوصية والمسائل الأخلاقية.

المسألة الأولى هي الامتثال. الهوية ليست موضوعًا جانبيًا في بيئات المؤسسات. إنها تقع في وسط الأمن والحوكمة والمخاطر والمساءلة. بمجرد مشاركة الذكاء الاصطناعي في تحديد من يمكنه الوصول، ومن الذي سيتم تحديه، ومن الذي تم وضع علامة عليه كمشتبه به، أو من يُمنع من الدخول تمامًا، فإن ذلك يتوقف عن كونه مجرد سيطرة فنية وسرعان ما يصبح مسألة حوكمة. تعتمد العديد من هذه الحلول على كميات كبيرة من البيانات الشخصية، بما في ذلك في بعض الأحيان القياسات الحيوية والتحليل السلوكي وبيانات الجهاز ومعلومات الموقع وأنماط الاستخدام. وهذا يعني أن المنظمات بحاجة إلى أن تكون واضحة تمامًا فيما يتعلق بالأساس القانوني والضرورة والتناسب والاحتفاظ والرقابة. بمعنى آخر، يجب عليهم أن يعرفوا ليس فقط أن الأداة يمكنها أن تفعل شيئًا ما، بل يجب عليهم أن يفعلوا ذلك على الإطلاق. مثل معرفة أن iPhone هو أداة، وليس محادثة.

الخصوصية هي المكان الذي تصبح فيه الأمور غامضة بعض الشيء. عادةً ما يتم تسويق أنظمة هوية الذكاء الاصطناعي على أساس أنها تستطيع أخذ المزيد من الإشارات في الاعتبار واتخاذ قرارات أفضل نتيجة لذلك. يبدو ذلك رائعًا، وأحيانًا يكون كذلك. ولكنه يعني أيضًا المزيد من التجميع والمزيد من المعالجة والمزيد من التطفل المحتمل. يمكن أن يتضاءل الخط الفاصل بين المصادقة الذكية والتجاوز بسرعة كبيرة. يمكن أن تصبح البيانات التي يتم جمعها لتأكيد الهوية بسهولة بيانات تستخدم لمراقبة السلوك، أو ملف تعريف الموظفين، أو تتبع العادات، أو دعم المراقبة على نطاق أوسع إذا كانت حواجز الحماية ضعيفة. وهنا تبدأ الثقة في التذبذب. تحتاج الشركات إلى الخصوصية من خلال التصميم، وتقييمات التأثير المناسبة، والإشعارات الشفافة والحدود المنضبطة حول كيفية استخدام بيانات الهوية. إن مجرد قدرة النظام على استنتاج المزيد لا يعني أنه ينبغي عليه ذلك. إنه حقل ألغام محتمل يجب التعامل معه بوعي ونزاهة.

وهذا يقودنا إلى السؤال الأخلاقي، وهو أن الآلة تصبح متعجرفة قليلاً بما لا يخدم مصلحتها. نماذج الذكاء الاصطناعي ليست محايدة لمجرد أنها رياضية. إذا تم تدريب أداة تحديد الهوية على بيانات غير كاملة أو متحيزة، فقد يكون أداؤها غير متساوٍ عبر المجموعات المختلفة. يمكن أن يؤدي ذلك إلى زيادة حالات الرفض الكاذب، أو التحديات المتكررة للمستخدمين الشرعيين، أو القرارات التي تؤثر بشكل غير متناسب على أفراد معينين. في بيئة الأعمال، هذا ليس فقط غير مريح. ويمكن أن تكون غير عادلة واستبعادية وربما تمييزية. لا يمكن للمؤسسات ببساطة نشر هذه الأنظمة وتأمل أن تتصرف الخوارزمية بنفسها. هذا تفكير سحري.

القابلية للتفسير مهمة أيضًا. إذا تم رفض وصول شخص ما، أو منعه من المشاركة في إحدى العمليات، أو تم تصنيفه على أنه ذو خطورة عالية، فيجب أن تكون هناك طريقة لشرح هذا القرار بلغة واضحة والطعن فيه إذا لزم الأمر. تعتبر قرارات تحديد هوية الصندوق الأسود غير مناسبة لأي منظمة تحاول المطالبة بالحوكمة القوية. يجب أن تكون المراجعة البشرية وطرق التصعيد والمساءلة الواضحة جزءًا من التصميم.

المعنى الضمني الحقيقي هو أنه لا ينبغي أبدًا التعامل مع الهوية التي تعتمد على الذكاء الاصطناعي باعتبارها ترقية أمنية لامعة. إنه جزء من صورة أكبر بكثير تتضمن حماية البيانات وثقة المستخدم والمساءلة والتحكم. إذا تم استخدامه بشكل جيد، فإنه يمكن أن يعزز المرونة ويقلل من الاحتيال. وإذا تم استخدامه بشكل سيئ، فمن الممكن أن يخلق ذلك النوع من المخاطر المبهمة والمبالغة في الهندسة والتي من المفترض أن يمنعها الحكم الرشيد. إن النهج الذكي لا يتمثل في مقاومة التكنولوجيا، بل في حكمها على النحو اللائق منذ البداية. لأنه في الهوية، كما هو الحال في معظم الأشياء، الذكاء بدون سيطرة هو مجرد فوضى في زي أكثر ذكاءً.