ডাক্তার এবং কৃত্রিম বুদ্ধিমত্তা একসাথে কাজ করলে দায়ী কে? কিভাবে চিকিৎসা দায়বদ্ধতা স্থাপন করা যায়

কৃত্রিম বুদ্ধিমত্তা দ্রুত হাসপাতাল এবং স্বাস্থ্য ক্লিনিকগুলিতে প্রয়োগ করা হচ্ছে। যাইহোক, এআই টুলের সুবিধার সাথে রোগীর নিরাপত্তার জন্য নতুন ঝুঁকি আসে-এবং যখন কিছু ভুল হয়ে যায় তখন কে দায়ী সে সম্পর্কে প্রশ্ন।

প্রচলিতভাবে, স্বাস্থ্যের যত্নের দায়িত্বগুলি স্পষ্টভাবে বর্ণনা করা হয়। ডাক্তারদের অবশ্যই যত্নের একটি সামঞ্জস্যপূর্ণ মান প্রদান করতে হবে। প্রতিষ্ঠানগুলোকে অবশ্যই নিরাপদ চিকিৎসা প্রক্রিয়ার আয়োজন করতে হবে। প্রস্তুতকারকদের অবশ্যই এমন মেডিকেল ডিভাইস সরবরাহ করতে হবে যা ত্রুটিযুক্ত নয়। লাইসেন্সিং এবং অনুমোদনের সাথে জড়িত নিয়ন্ত্রক এবং সংস্থাগুলি হস্তক্ষেপ করতে পারে যদি এই পক্ষগুলির মধ্যে কোনটি প্রত্যাশিত মান পূরণ না করে। এবং আদালত মূল্যায়ন করতে পারে যে রোগীদের ক্ষতি হলে কোন পক্ষ দায়ী।

মেডিকেল AI সরঞ্জামগুলির একটি আগত তরঙ্গ এই লাইনগুলিকে অস্পষ্ট করবে।

বর্তমান AI সরঞ্জামগুলি প্রধানত সহকারী হিসাবে ব্যবহৃত হয়, মানুষের পরীক্ষার দ্বারা সমর্থিত, অন্যান্য মেডিকেল ডিভাইসের মতো। উদাহরণস্বরূপ, যখন এআই মডেলগুলি একটি সতর্কতা ট্রিগার করে যে একজন রোগীর সেপসিসের ঝুঁকি রয়েছে, তখন চিকিত্সককে অবশ্যই কোনও চিকিত্সার আগে শারীরবৃত্তীয় যুক্তি পর্যালোচনা করতে হবে এবং নিশ্চিত করতে হবে।

চিকিৎসা কৃত্রিম বুদ্ধিমত্তা ওষুধ পরিবর্তন করতে পারে – তবে শুধুমাত্র যদি আমরা এটি স্পর্শ করে এমন ডেটা সতর্কতার সাথে পর্যবেক্ষণ করি

কিন্তু আগামী বছরগুলিতে, এআই-চালিত ক্লিনিকাল সরঞ্জামগুলি কম এবং কম মানুষের ইনপুট সহ ডেটা সংশ্লেষণ থেকে এটিতে কাজ করার জন্য অগ্রগতি হবে বলে আশা করা হচ্ছে। তারা রোগ নির্ণয় করবে, চিকিৎসার পরিকল্পনা করবে এবং রোগীর ব্যবস্থাপনার সিদ্ধান্ত নেবে যাতে চিকিত্সকরা খুব কম বা কোন ভূমিকা পালন করেন না। যদিও অনেকগুলি বিদ্যমান সরঞ্জামের আউটপুটগুলি কাঠামোগত – সেপসিস মডেলগুলি, উদাহরণস্বরূপ, একটি স্বচ্ছ সূত্র অনুসারে সংজ্ঞায়িত শারীরবৃত্তীয় ভেরিয়েবলগুলিকে একত্রিত করে কাজ করে।¹ – আরও উন্নত টুল ব্ল্যাক বক্স ডিপ লার্নিং প্রক্রিয়া অন্তর্ভুক্ত করতে পারে। চিকিত্সকরা আর সরঞ্জামগুলির যুক্তি অনুসরণ করতে সক্ষম হবেন না, এমনকি অ্যালগরিদমগুলিও যা তাদের বিচারের জন্য কিছু ব্যাখ্যা প্রদান করে².

এই ধরনের সরঞ্জাম ওয়ারেন্টি নিয়মের অধীনে পড়ে। তাদের ব্ল্যাক বক্স যুক্তি কখন তারা ত্রুটিপূর্ণ তা নির্ধারণ করা কঠিন করে তোলে। এবং যখন সিদ্ধান্তগুলি মানুষ এবং একটি অস্বচ্ছ এআই মডেল দ্বারা যৌথভাবে নেওয়া হয়, তখন চিকিৎসা সেবা গ্রহণের সময় লোকেরা যখন ক্ষতিগ্রস্থ হয় তখন দায় মূল্যায়ন করা কঠিন হয়ে পড়ে। বিদ্যমান চিকিৎসা দায়বদ্ধতা কাঠামো এই ছেদ বিন্দুর সমাধান করে না³.

এই আইনি অনিশ্চয়তার অর্থ হল যে ক্ষতিগ্রস্থ লোকেরা দায়বদ্ধতার ফাঁকে ধরা পড়তে পারে যেখানে কেউ নিয়ম লঙ্ঘন করেনি³. আইনি ঝুঁকির বিষয়ে উদ্বেগের কারণে হাসপাতালগুলি সম্ভাব্য দরকারী ফাংশনগুলির জন্য AI থেকে দূরে সরে যেতে পারে – নিরাপদ AI গ্রহণের ক্ষেত্রে বাধা হিসাবে ডাক্তারদের দ্বারা বারবার উদ্ধৃত করা উদ্বেগগুলি^4–6 এবং যেগুলি ইতিমধ্যে উপলব্ধ ব্ল্যাক বক্স সরঞ্জামগুলি ব্যবহার না করার কারণ হিসাবে কেউ কেউ দেখেন। এবং AI বিক্রেতারা একটি টুল বাজারে আসার পর নিরাপত্তার নিরীক্ষণ করার দায়িত্ব এড়িয়ে যেতে পারে, আত্মবিশ্বাসী যে জিনিসগুলি ভুল হয়ে গেলে দোষ দেওয়া কঠিন হবে।

পরিষ্কার দায়বদ্ধতা কাঠামো প্রয়োজন।

এখানে আমরা তিনটি বিষয়ের উপর ভিত্তি করে AI ক্ষমতার সাতটি স্তর সংজ্ঞায়িত করে কীভাবে এটি অর্জন করতে হয় তা বর্ণনা করি: স্বায়ত্তশাসন, অটোমেশন এবং অপারেশনাল সুযোগ। স্ব-ড্রাইভিং প্লেন এবং গাড়িগুলির সাথে, নিয়ন্ত্রকরা ইতিমধ্যেই টায়ার্ড স্তর ব্যবহার করে নির্দিষ্ট করার জন্য ঠিক কী টাস্ক সিস্টেমগুলি সম্পাদন করতে হবে, কোন স্বায়ত্তশাসিত ফ্যাশনে, এবং কখন মানুষ দায়িত্ব গ্রহণ করবে বলে আশা করা হয়।^7–9. মেডিকেল এআই সিস্টেমের জন্য অনুরূপ স্তরের সেট নিয়ন্ত্রক, নীতিনির্ধারক, সরকার, আদালত এবং পেশাদার স্বাস্থ্য সংস্থাগুলিকে আগত সরঞ্জামগুলি ডিজাইন করতে সহায়তা করবে।

তিনটি বৈশিষ্ট্য, সাত স্তর

তিনটি বৈশিষ্ট্য নির্দেশ করে কিভাবে ক্লিনিকে এআই ব্যবহার করা হয়।

প্রথমত, স্বায়ত্তশাসন: মানব ইনপুটের প্রয়োজন ছাড়াই সিস্টেমটি যে পরিমাণে স্বাধীনভাবে কারণ করে। বিদ্যমান সেপসিস ঝুঁকি মডেলগুলি হল কম স্বায়ত্তশাসন সহ AI সরঞ্জাম¹. অন্যদিকে, গভীর শিক্ষার ব্যবস্থা হাজার হাজার ভেরিয়েবলের প্যাটার্ন থেকে রোগ নির্ণয় করতে পারে এবং সিদ্ধান্তে আসতে পারে যে ডাক্তাররা পুনরাবৃত্তি করতে পারে না¹⁰.

দ্বিতীয়, অটোমেশন: একটি মেডিকেল এআই সিস্টেম নিজে থেকে কী কী কাজ করতে পারে। এই ধরনের একটি সিস্টেম হতে পারে একটি কম-অটোমেশন রোবট যা সার্জন নিয়ন্ত্রণ করে, এমন একটি সিস্টেম যা কেমোথেরাপির প্রেসক্রিপশন সরাসরি ফার্মেসিতে পাঠায়।

তৃতীয়, অপারেশনাল স্কোপ: যে সীমার মধ্যে সিস্টেমটিকে কাজ করার অনুমতি দেওয়া হয়। ক্লিনিকাল সিদ্ধান্তগুলি দুবার পরীক্ষা করার জন্য একজন বিশেষজ্ঞ চক্ষুবিজ্ঞান পরিষেবা দ্বারা নিয়োজিত একটি রেটিনাল ইমেজিং সিস্টেম রোগীকে বিশেষজ্ঞের কাছে রেফার করা হবে কিনা সে সম্পর্কে একটি স্বায়ত্তশাসিত সিদ্ধান্ত নেওয়ার জন্য প্রাথমিক যত্নে ব্যবহৃত একই সরঞ্জামের তুলনায় কম ঝুঁকিপূর্ণ।

নিম্নলিখিত সাতটি স্তর মেডিকেল এআই সরঞ্জামগুলির চারপাশে ঝুঁকি নির্ধারণের জন্য একটি ভিত্তি তৈরি করতে পারে। একটি প্রদত্ত সরঞ্জাম বিভিন্ন স্তরে বসতে পারে, এটি কোথায় এবং কীভাবে এবং কার দ্বারা ব্যবহৃত হয় তার উপর নির্ভর করে।

স্তর 0: তথ্য। স্বায়ত্তশাসন, পরিবর্তনশীল অটোমেশন এবং সংকীর্ণ অপারেশনাল সুযোগ ছাড়া এআই সিস্টেম। এই ধরনের সিস্টেমগুলি মানুষের দ্বারা নির্ধারিত নিয়ম অনুসারে ডেটা সঞ্চয়, স্থানান্তর এবং প্রদর্শন করে। উদাহরণগুলির মধ্যে রয়েছে ইলেকট্রনিক স্বাস্থ্য রেকর্ড পরিচালনার জন্য অ্যালগরিদম বা পরিধানযোগ্য ডিভাইসগুলি থেকে ডেটা স্ট্রিমিং যা গুরুত্বপূর্ণ লক্ষণগুলিকে ট্র্যাক করে৷ অ্যালগরিদমিক আচরণ স্বচ্ছ এবং প্রতিটি আউটপুট স্বাধীনভাবে যাচাই করা যেতে পারে।

এটি ভাল আচ্ছাদিত মাটি. নিয়ন্ত্রকরা মূল্যায়ন করতে পারে যে এই ধরনের সরঞ্জামগুলি নির্ভরযোগ্য কিনা এবং পর্যাপ্ত সাইবার নিরাপত্তা এবং ডেটা সুরক্ষা প্রদান করে। আদালত দায় মূল্যায়নের জন্য প্রচলিত মান প্রয়োগ করতে পারে।

লেভেল 1: ফ্যাসিলিটেটর। কম স্বায়ত্তশাসন, নিম্ন থেকে মাঝারি অটোমেশন এবং একটি সংকীর্ণ অপারেশনাল সুযোগ সহ AI সিস্টেম। এই ধরনের সিস্টেমগুলি একজন চিকিত্সকের তত্ত্বাবধানে একটি একক, স্পষ্টভাবে সংজ্ঞায়িত কাজ সম্পাদন করতে পারে – যেমন একটি হার্ট মনিটরে সন্দেহজনক ছন্দ পতাকাঙ্কিত করা¹¹ অথবা স্ক্যানে ফুসফুসের সম্ভাব্য সংযোগগুলি হাইলাইট করা¹². সরঞ্জামগুলির অ্যালগরিদমিক যুক্তি অস্বচ্ছ হতে পারে, তবে আউটপুট রোগীর ডেটার ক্লিনিকাল পর্যালোচনার মাধ্যমে বা মডেলের ইনপুট এবং আউটপুট ডেটার মধ্যে পারস্পরিক সম্পর্ক পরীক্ষা করে এমন ‘ব্যাখ্যামূলক কৌশল’ দ্বারা যাচাই করা যেতে পারে।

এই সরঞ্জামগুলি ডায়াগনস্টিক এইড হিসাবে নিয়ন্ত্রিত হয়, ম্যামোগ্রাফি এবং কোলনোস্কোপির জন্য বিদ্যমান কম্পিউটারাইজড শনাক্তকরণ সিস্টেমের মতো। স্টাফরা তাদের সীমাবদ্ধতা বুঝতে পারে তা নিশ্চিত করার জন্য হাসপাতালগুলি দায়ী। ব্যবহারকারীরা বিজ্ঞপ্তিগুলি অর্থবহ কিনা তা সঠিকভাবে বিচার করবে বলে আশা করা হচ্ছে।

ক্লিনিকাল এআই মাস্টার ডাক্তারদের একটি দলের মত যুক্তি

লেভেল 2: সিদ্ধান্ত সমর্থন। কম স্বায়ত্তশাসন, নিম্ন থেকে মাঝারি অটোমেশন এবং মাঝারি অপারেশনাল সুযোগ সহ একটি কৃত্রিম বুদ্ধিমত্তার সরঞ্জাম। এই সিস্টেমগুলি ডেটার একাধিক স্ট্রিমকে একীভূত করে – সম্ভবত উপসর্গ, অতীতের চিকিৎসা ইতিহাস, ইমেজিং ডেটা এবং বর্তমান নির্দেশিকা সহ। এই স্তরে উপলব্ধ সরঞ্জামগুলি একটি রোগ নির্ণয় এবং চিকিত্সা পরিকল্পনা তৈরি করতে পারে, বিশদ স্রাবের সারাংশ তৈরি করতে পারে এবং ট্রাইজে সিদ্ধান্তের জন্য ঝুঁকির স্কোর তৈরি করতে পারে। লেভেল 1 সরঞ্জামগুলির মতো, এগুলি পরামর্শমূলক হওয়ার জন্য ডিজাইন করা হয়েছে – তাদের যুক্তি অস্বচ্ছ হতে পারে তবে কিছুটা যাচাইযোগ্য এবং চিকিত্সকরা চূড়ান্ত সিদ্ধান্ত নেবেন বলে আশা করা হচ্ছে।

নিয়ন্ত্রকদের শক্তিশালী প্রমাণের জন্য জিজ্ঞাসা করা উচিত যে এই সিস্টেমগুলি যত্নের উন্নতি করে। হাসপাতালগুলিকে অবশ্যই চিকিত্সকদেরকে আউটপুটগুলিকে ডিফল্টরূপে গ্রহণ করার পরিবর্তে চ্যালেঞ্জ করার জন্য প্রশিক্ষণ দিতে হবে এবং আদালতগুলিকে অবশ্যই সিদ্ধান্ত নিতে হবে যে পরিস্থিতিতে কোনও নির্দিষ্ট সুপারিশের উপর একজন চিকিত্সকের নির্ভরতা যুক্তিসঙ্গত ছিল কিনা। একটি ঝুঁকি আছে যে সময়-চিকিৎসকরা পরামর্শের সরঞ্জামগুলির উপর অতিরিক্ত নির্ভর করবেন। একটি মেশিনের সুপারিশ দ্বারা একজন ডাক্তার কতটা প্রভাবিত হয়েছিল তা নির্ধারণ করার কোন সহজ উপায় নেই।

লেভেল 3: তত্ত্বাবধানে অটোমেশন। স্বায়ত্তশাসন এবং স্বয়ংক্রিয়তার মাঝারি স্তরের এবং মাঝারি অপারেশনাল সুযোগ সহ AI সিস্টেম। সিস্টেম, চিকিত্সক নয়, সিদ্ধান্ত গ্রহণকারী। এই সরঞ্জামগুলি আজ বিরল (‘বর্তমান মেডিকেল এআই শ্রেণীবিভাগ’ দেখুন)। একটি সু-সংজ্ঞায়িত ডোমেনের মধ্যে, তারা চিকিত্সার প্রয়োজনে গতিশীলভাবে সাড়া দিতে পারে-উদাহরণস্বরূপ, ইনসুলিন ডেলিভারি ডিভাইসগুলি এম্বেডেড অ্যালগরিদম এবং প্রিসেট সীমা ব্যবহার করে ক্রমাগত গ্লুকোজ রিডিংয়ের উপর ভিত্তি করে স্বয়ংক্রিয়ভাবে ডোজ সামঞ্জস্য করে।¹³. চিকিত্সক বেছে নেন কোন রোগীদের সিস্টেমে রাখা হবে এবং কিছু ভুল বলে মনে হলেই হস্তক্ষেপ করে।

নিয়ন্ত্রকদের এই সিস্টেমগুলির ব্যবহার এবং রক্ষণাবেক্ষণের জন্য নির্দেশাবলীর গুণমান এবং যত্ন প্রদানের অন্তর্নিহিত ঝুঁকি সম্পর্কে তথ্যের উপর ফোকাস করা উচিত। স্বাস্থ্যসেবা সংস্থাগুলিকে অবহিত সম্মতি প্রোটোকলগুলির জন্য নির্দেশিকা প্রদান করা উচিত যা এআই-প্রতিরোধী থেরাপির অন্তর্নিহিত নতুন ধরণের ঝুঁকিগুলির প্রতিক্রিয়া জানায় এবং প্রদানকারীদের রোগীদের সাথে এই ঝুঁকিগুলি নিয়ে আলোচনা করা উচিত।

এই সিস্টেমগুলির সাথে, অনুপযুক্ত রোগীর নিবন্ধন, ডিভাইস অ্যালার্মে প্রতিক্রিয়া জানাতে ব্যর্থতা বা সিস্টেমের সীমাবদ্ধতা বোঝার অভাবের জন্য ডাক্তারদের সমালোচনা করা যেতে পারে। সংস্থাগুলি কীভাবে প্রযুক্তি নির্বাচন করেছে, যাচাই করেছে এবং পর্যবেক্ষণ করেছে তা দ্বারা বিচার করা যেতে পারে। ত্রুটিপূর্ণ ডিজাইন বা আপডেট ক্ষতিতে অবদান রাখলে নির্মাতারা দায়ী হতে পারে। কিন্তু প্রচলিত দায় মূল্যায়ন উদ্দেশ্যের জন্য অযোগ্য হতে পারে যদি ডাক্তার এবং সংস্থাগুলি যুক্তিসঙ্গতভাবে কাজ করে, এবং ক্ষতি একটি অ্যালগরিদমিকভাবে নির্ধারিত সিদ্ধান্তের কারণে হয় যা স্পষ্টত ভুল নয়।

লেভেল 4: এআই দ্বারা চালিত মানুষের তত্ত্বাবধান। মাঝারি থেকে উচ্চ স্তরের স্বায়ত্তশাসন এবং অটোমেশন এবং একটি বিস্তৃত অপারেশনাল সুযোগ সহ একটি কৃত্রিম বুদ্ধিমত্তার সরঞ্জাম। এই সিস্টেমগুলি নিবিড় পরিচর্যার মতো এলাকায় চিকিত্সার সম্পূর্ণ পর্বগুলি পরিচালনা করে। তারা ক্রমাগত রোগীদের পর্যবেক্ষণ করে এবং চিকিত্সা সামঞ্জস্য করে – উদাহরণস্বরূপ, আত্মার সেটিংসের ভারসাম্য এবং একই সময়ে বেশ কয়েকটি শারীরবৃত্তীয় লক্ষ্যগুলির বিরুদ্ধে শিথিলকরণ। তারা ব্যাকআপ প্রোটোকল রাখে যেমন কিছু ভুল মনে হলে দ্রুত প্রতিক্রিয়া দলে কল করা। চিকিত্সকরা একটি নিরাপত্তা জাল এবং সিস্টেমটি একটি অ্যালার্ম বাজলেই কাজ করে৷ লেভেল 4 স্থাপনা এখনও ওষুধে যুগান্তকারী নয়, যদিও প্রয়োজনীয় প্রযুক্তিগত উপাদানগুলি উদ্ভূত হচ্ছে।

এই সিস্টেমগুলির জন্য, নিয়ন্ত্রকদের শক্তিশালী প্রমাণ প্রয়োজন যে সার্কিটে একজন ব্যক্তিকে একীভূত করা নিরাপত্তা হ্রাস করবে। প্রদত্ত যে চিকিত্সকদের এই সিস্টেমগুলির ক্রিয়াকলাপগুলি পরীক্ষা করার বাস্তবসম্মত সুযোগ থাকবে না, আদালতগুলি নির্ধারণ করতে লড়াই করতে পারে যে একটি নেতিবাচক ফলাফল অবহেলা, একটি লুকানো ত্রুটি, বা ওষুধের অন্তর্নিহিত ঝুঁকিগুলিকে প্রতিফলিত করে কিনা।

জেনারেটিভ কৃত্রিম বুদ্ধিমত্তা স্বাস্থ্যসেবায় বিপ্লব ঘটাতে পারে – তবে নিয়ন্ত্রণ বড় প্রযুক্তির কাছে হস্তান্তর করা হলে তা নয়