কৃত্রিম বুদ্ধিমত্তা ভুল হয়ে গেলে কে দায়ী?

একটি প্রতিষ্ঠানের AI এর জন্য শেষ পর্যন্ত কে দায়ী এবং এটি ভুল হলে কে দায়ী?

বিষয়বস্তু প্রক্রিয়াকরণ

শীর্ষ 50 কোম্পানি শালমানখ ক চূড়ান্ত প্রতিবেদন, তিনি বলেছিলেন যে উত্তরটি সাধারণত প্রযুক্তি নেতা, কারণ তারা প্রায়শই কোম্পানির এআই সমাধানগুলি ক্রয় এবং বাস্তবায়নের জন্য অভিযুক্ত হয়। সমীক্ষায় দেখা গেছে যে যখন এই ভূমিকার কথা আসে, বেশিরভাগ উত্তরদাতারা সিআইও বা আইটি প্রধান (42%) এর উপর দৃঢ়ভাবে দায়িত্ব চাপিয়েছেন, তারপরে প্রধান ডেটা অফিসার/এআই অফিসার (16%) এবং সিইও (10%)। শালমান বলেছিলেন যে সিদ্ধান্ত নেওয়ার মালিকানা অর্পণ করতে সংস্থাগুলির কোনও সমস্যা আছে বলে মনে হয় না, তবে এটিকে একক নেতার সাথে স্থাপন করা একটি বড় ঝুঁকি তৈরি করে, কারণ দায়িত্বটি সেই ব্যক্তি বনাম সামগ্রিকভাবে সংস্থার কাছে যায়, যা অন্যান্য সমস্যাগুলির একটি হোস্টকে উন্মুক্ত করে।

“ঝুঁকি মূল্যায়ন ক্ষতিগ্রস্থ হয় কারণ একজন একক ব্যক্তি একটি ঝুঁকি মূল্যায়ন করে যে তারা হ্রাস করার জন্য উদ্বুদ্ধ হয়,” প্রতিবেদনে বলা হয়েছে। “বর্ধিতকরণ বিলম্বিত হয় কারণ অন্য কেউ আনুষ্ঠানিকভাবে দায়বদ্ধ নয়৷ যখন ঘটনা ঘটে, তখন সংস্থার প্রতিক্রিয়া মূল কারণগুলির উল্লেখযোগ্য সংশোধনের পরিবর্তে সংশোধনের মধ্যে সীমাবদ্ধ থাকে৷ বেশিরভাগ সংস্থায়, AI ঝুঁকির জন্য দায়িত্ব আনুষ্ঠানিকভাবে বিভক্ত করা হয় নি এমন ফাংশনগুলির মধ্যে যা দৈনন্দিন ভিত্তিতে এটির সম্মুখীন হতে পারে৷ বিকেন্দ্রীকৃত দায়িত্ব, যেখানে মালিকানা, নিরাপত্তা এবং বৃহত্তর আইটি শিল্পে ঝুঁকির মালিকানা, পুনরুদ্ধার করা হয়৷ নিবদ্ধ।”

kieferpix – stock.adobe.com

হল, আরেকটি গবেষণা নং অটোমেশন সমাধান প্রদান করে আবেলরা দেখা গেছে যে ব্যবস্থাপনা অন্যান্য পক্ষের তুলনায় সামগ্রিক দোষে কম স্থান পেয়েছে। কাকে দোষারোপ করতে হবে তাও অনেক মানুষ নিশ্চিত ছিল না। একজন এআই এজেন্ট ব্যর্থ হলে কে দায়ী জিজ্ঞাসা করা হলে, 23% বলেছেন যে এটি অস্পষ্ট/কেউ নয়; 22% বলেছেন যে এটি প্রদানকারী, যা চুক্তিগতভাবে নির্দিষ্ট ছিল; 20% বলেছেন যে ব্যক্তি হল সেই ব্যক্তি যিনি এজেন্টকে পরিচালনা করেন বা মোতায়েন করেন; 19% বলেছেন যে দলটি এজেন্টকে মোতায়েন বা পরিচালনা করে; এবং 16% বলেছেন যে ম্যানেজার কৃত্রিম বুদ্ধিমত্তায় বিনিয়োগের অনুমোদন দিয়েছেন।

সরবরাহকারীর ভূমিকার উপর গভীরভাবে নজর রেখে, Avlera বলেছেন যে 17% ক্ষেত্রে, চুক্তিগুলি নির্দিষ্ট করে যে সরবরাহকারী শুধুমাত্র ন্যূনতম দায়িত্ব বহন করে, যখন কিছু কিছু ক্ষেত্রে দায়িত্ব সম্পূর্ণরূপে গ্রাহকের উপর বর্তায়। সবচেয়ে সাধারণ পদ্ধতি (42%) হল সরবরাহকারী এবং গ্রাহক উভয়ের মধ্যে একটি যৌথ দায়িত্বের মডেল, যখন 38% চুক্তিতে বলা হয়েছে যে এজেন্ট ত্রুটির ক্ষেত্রে সরবরাহকারীরা সম্পূর্ণরূপে দায়ী।

আইএসএসিএ, খ নিজস্ব জরিপএকইভাবে বিক্ষিপ্ত ফলাফল ছিল যখন একটি AI সিস্টেম কোন প্রতিষ্ঠানের ক্ষতি করে তখন কাকে দায়ী করা হবে, কিন্তু সবচেয়ে সাধারণ উত্তর, 28%-এ ছিল “বোর্ড/ম্যানেজার”, কিন্তু দ্বিতীয় সবচেয়ে সাধারণ উত্তর, 20%-এ, কেবল “আমি জানি না”। তৃতীয় সর্বাধিক সাধারণ উত্তর, শালমানের তথ্য অনুসারে, CIO/CTO ছিল 18%। ব্যবসার মালিক এবং CISO চতুর্থ স্থানের জন্য 13% এ বাঁধা ছিল। যাইহোক, Avlera এর সমীক্ষার সম্পূর্ণ বিপরীতে, শুধুমাত্র 2% মনে করেন যে সরবরাহকারী দায়ী, যারা “অন্য” বলেছে তাদের মতোই। অবশেষে, 4% বলেছেন কেউ দায়ী নয়।

একটি বহুল উদ্ধৃত নথি অনুসারে, দোষ দেওয়ার জন্য একটি ঐতিহাসিকভাবে জনপ্রিয় জায়গা হল কেবল যে কেউ ভুলের সবচেয়ে কাছের ছিল, এমনকি যে সিস্টেমের ক্ষতি করেছে তার উপর তাদের সামান্য নিয়ন্ত্রণ থাকলেও কাগজ ইনস্টিটিউট ফর ডেটা অ্যান্ড সোসাইটি রিসার্চের ম্যাডেলিন ক্লেয়ার ইলিশের দ্বারা। নিবন্ধে বার্কলে ম্যানেজমেন্ট রিভিউ বাস্তব-বিশ্বের উদাহরণটি তুলে ধরুন যেখানে 2023 সালে একজন আইনজীবী একটি ফেডারেল মামলায় ChatGPT দ্বারা তৈরি করা বানোয়াট উদ্ধৃতি সহ একটি আইনি ব্রিফ দায়ের করেছিলেন। ব্যক্তিটি সাংগঠনিক ব্যর্থতার দিকে সামান্য মনোযোগ দিয়ে দোষ শোষণ করেছিল যা আইনজীবীকে প্রথম স্থানে এই ভুল করতে দেয়, শালমানের সতর্কতার মতো যে ব্যক্তিদের প্রতি অত্যধিক অ্যাট্রিবিউশন সংস্থাগুলিকে CTO-কে দোষারোপ করার পক্ষে বৃহত্তর সিস্টেমিক সমস্যাগুলিকে উপেক্ষা করতে দেয়।

অন্যান্য, আরো সাম্প্রতিক গবেষণা“কৃত্রিম বুদ্ধিমত্তা দলে আর্টিফিশিয়াল ইন্টেলিজেন্স ইনডিউসড হিউম্যান রেসপনসিবিলিটি (AIHR)” অনুরূপ ফলাফল পাওয়া গেছে। যদিও কেউ স্বজ্ঞাতভাবে মনে করতে পারে যে এআই সিস্টেমগুলি পৃথক দায়িত্ব ছড়িয়ে দেওয়ার জন্য ব্যবহার করা যেতে পারে, যেহেতু লোকেরা অ্যালগরিদমকে দোষ দিতে পারে, গবেষকরা ঠিক বিপরীতটি খুঁজে পেয়েছেন। যখন অস্পষ্ট ভাগ করা দায়িত্বের অধীনে একটি ফলশ্রুতিমূলক নৈতিক ভুল ঘটে, তখন মানুষ যখন অন্য মানুষের সাথে যুক্ত হওয়ার চেয়ে AI এর সাথে যুক্ত হয় তখন লোকেরা মানুষকে বেশি দায়িত্ব দেয়। এমনকি যখন “বটকে দোষারোপ করা” এবং অনুপ্রাণিত স্ব-স্রাবের হিউরিস্টিক উপলব্ধ থাকা উচিত, তখন অংশগ্রহণকারীরা এআই-মানব দলে-নিজেদের সহ-মানুষের কাছে দায়িত্ব স্থানান্তরিত করেছে। কাগজটি উল্লেখ করেছে যে লোকেরা AI কে তুলনামূলকভাবে সীমিত বলে মনে করে এবং তাই, নৈতিক এজেন্ট হওয়ার সম্ভাবনা কম, যা মানব দলের সদস্যকে বিচার ও দায়িত্বের ডিফল্ট ফোকাস করে তোলে।

এই সঙ্গে সামঞ্জস্যপূর্ণ আরেকটি কাগজ যারা দেখেছেন যে ম্যানুয়াল মোডের অস্তিত্বই যখন AI ভুল করে তখন আরও বেশি মানবিক দোষের দিকে নিয়ে যায়। যখন পর্যবেক্ষকরা জানেন যে একটি মানব এজেন্টের তাত্ত্বিকভাবে নিয়ন্ত্রণ নেওয়ার বিকল্প ছিল, তখন মানুষকে আরও দায়বদ্ধ করা হয়, এমনকি যখন এজেন্টদের প্রকৃত নিয়ন্ত্রণ অনুশীলন করার সময় বা ক্ষমতা না থাকে, যেমন স্ব-চালিত গাড়ি দুর্ঘটনায়। চারটি পরীক্ষা-নিরীক্ষার সময়, গবেষকরা দেখেছেন যে যদিও লোকেরা ম্যানুয়াল মোডে থাকতে পছন্দ করে, যদিও AI মোড আরও দক্ষ এবং ম্যানুয়াল মোড যুক্ত করা আরও ব্যয়বহুল, ম্যানুয়াল মোড থাকলে মানুষের অপরাধবোধ বাড়ে।

যাইহোক, অন্যান্য গবেষণায় দেখায় যে দোষারোপ করা মানুষের মনে আরও নমনীয় এবং প্রেক্ষাপটের উপর নির্ভর করে পরিবর্তিত হতে পারে। উদাহরণস্বরূপ, ক একাডেমিক অধ্যয়ন বোস্টন ইউনিভার্সিটির পরামর্শ দেওয়া হয়েছে যে অনুভূত দোষ এবং দায়িত্ব পরিবর্তিত হতে পারে যে এআই সিস্টেমটিকে একটি হাতিয়ার বা কর্মচারী হিসাবে চিত্রিত করা হয়েছে কিনা তার উপর ভিত্তি করে। যখন এটিকে একটি হাতিয়ার হিসাবে বর্ণনা করা হয়, তখন সংস্থাগুলি ম্যানেজারকে দোষারোপ করার সম্ভাবনা বেশি থাকে, কিন্তু যখন এআইকে এক ধরণের ডিজিটাল কর্মী হিসাবে বর্ণনা করা হয়, তখন সংস্থাটি নিজেই সিস্টেমকে দোষারোপ করার সম্ভাবনা বেশি হয়ে যায়।

“প্রাতিষ্ঠানিক এআই এজেন্টদের সাথে ব্যবস্থাপকদের মধ্যে, এআই কর্মীদের গঠন করা ম্যানেজারকে বরাদ্দ করা দায়িত্বের ভাগকে প্রায় 9 শতাংশ পয়েন্ট কমিয়ে দেয় এবং এআই সিস্টেমে বরাদ্দকৃত অংশকে প্রায় 8 শতাংশ পয়েন্ট বাড়িয়ে দেয় (কর্মীদের জন্য একটি ছোট অফসেটিং বৃদ্ধি সহ), ” কাগজটি বলে। “সামগ্রিকভাবে, এই গ্রুপে তৈরি করা এআই কর্মী ম্যানেজারের নিজের থেকে এবং বৃহত্তর সিস্টেম এবং সংস্থার দিকে অনুভূত দায়িত্বকে সরিয়ে দেয়, কারণ যখন এআই তার নিজস্ব সাংগঠনিক অভিনেতা হিসাবে অবস্থান করে তখন দায়িত্ব আরও বিস্তৃত হয়।”

অবশেষে, সংস্থার বাইরে, অ্যাসুরেন্স সলিউশন প্ল্যাটফর্ম থেকে একটি নিবন্ধ ওয়ার্ডেন এ.আই তিনি বলেছিলেন যে আইনি দায়িত্ব নিয়োগকর্তার উপর নির্ভর করে: সংস্থাটি তার AI সিস্টেম দ্বারা নেওয়া সিদ্ধান্তগুলির জন্য আইনত দায়বদ্ধ, এমনকি যদি এটি তৃতীয় পক্ষের সরঞ্জাম ব্যবহার করে।