এক আন্তর্জাতিক এআই নীতি পরামর্শদাতা সম্প্রতি বলেন, কৃত্রিম বুদ্ধিমত্তা (এআই) সুরক্ষায় শুধুমাত্র মানব নজরদারিতে আস্থা রাখা গুরুতর বিপদ ডেকে দিতে পারে। তিনি আবারও সতর্ক করে জানান, দ্রুত পরিবর্তিত এআই প্রযুক্তির জটিলতা, স্বয়ংক্রিয় পক্ষপাত (automation bias) এবং ত্রুটি-উপাত্ত (error cascades) মোকাবিলা করতে দরকার বহুমাত্রিক নিয়ন্ত্রণ কাঠামো।
মুখ্য বিষয়–
- দ্রুততম প্রযুক্তিগত উদ্ভাবন: গতি ও জটিলতার কারণে মানুষের পর্যবেক্ষণ প্রায়ই পিছিয়ে পড়ে এবং সময়োপযোগী হস্তক্ষেপ অসম্ভব হয়ে ওঠে।
- পক্ষপাত ও আত্মবিশ্বাসের ফাঁদ: বিশ্বস্তত্বের অভাবে মানুষ প্রায়ই অ্যালগরিদমের সিদ্ধান্তকে অগত্যা মানে, যা বড় ধরনের ভুল সিদ্ধান্তের কারণ হতে পারে।
- নিগমিত ত্রুটি-উপাত্তের ঝুঁকি: এক ছোট ত্রুটি দ্রুত ছড়িয়ে পরে সিস্টেমজুড়ে, যা শুধুমাত্র মানুষ ধরতে পারে না।
- প্রাতিষ্ঠানিক ও প্রযুক্তিগত সমন্বয় প্রয়োজন: তৃতীয়-পক্ষের অডিট, স্বয়ংক্রিয় নিরাপত্তা পরীক্ষণ এবং নিয়ন্ত্রক ফ্রেমওয়ার্ক একসঙ্গে কাজ করতে হবে।
বিশ্বব্যাপী বহু প্রতিষ্ঠান এখনই ব্যাপক “বহুস্তরীয় নিয়ন্ত্রণ” (multi-layered governance) মডেল নিয়ে আলোচনা শুরু করেছে। এখানে মানব নজরদারিকে রাখার পাশাপাশি থাকবে–
- স্বয়ংক্রিয় ত্রুটি-সনাক্তকরণ মডিউল (automated anomaly detection),
- নিরাপত্তা-বিচক্ষণ অডিট (continuous safety auditing),
- তৃতীয়-পক্ষের স্বচ্ছতা প্রতিবেদন (third-party transparency reporting),
- আইনি ও নৈতিক কাঠামোর ক্রমবর্ধমান উন্নয়ন।
উপসংহার:
এআই-কে কতটা নিরাপদ বলা যায়, তা নির্ভর করে আমরা কীভাবে প্রযুক্তি এবং মানুষ—দুটি দিক থেকেই ঝুঁকি চিহ্নিত ও মোকাবিলা করি। শুধুমাত্র মানব নজরদারি নয়, প্রাতিষ্ঠানিক নিয়ন্ত্রণ, স্বয়ংক্রিয় সুরক্ষা প্রটোকল এবং স্বচ্ছতা বৃদ্ধি-কে একত্রে কাজ করতেই হবে।
