লেখক(গুলি): আলেকজান্দ্রো রোটারি
মূলত টুওয়ার্ডস এআই-তে পোস্ট করা হয়েছে।
প্রকৃত ক্রিয়াকলাপের মধ্যে এআই কাজ করার চেষ্টা করা লোকেদের জন্য একটি ব্যবহারিক গাইড
কিছু সময়ে আপনি একটি LLM আউটপুট তৈরি করবেন যা নিখুঁত দেখায়। আপনি এটা সম্পর্কে ভাল বোধ করবে. তাই এটি ব্যবহার করার চেষ্টা করুন এবং কিছুই কাজ করবে না।
মাঠ আছে। ভবনটি পরিষ্কার। মান যুক্তিসঙ্গত। কিন্তু LLM এবং সিস্টেমের মধ্যে যেটি এটিকে গ্রাস করতে হবে, তার মধ্যে কিছু মেলে না। ডেটা টাইপ। অনুপস্থিত ক্ষেত্র। প্রযুক্তিগতভাবে সঠিক মান এবং প্রাসঙ্গিকভাবে ভুল।
এটি একটি মডেল সমস্যা নয়। এটি একটি স্থাপত্য সমস্যা। এবং এটি ঘটতে থাকবে যতক্ষণ না আপনি এটির মতো আচরণ করবেন।
এই সমস্যা নিয়ে যারা লিখছেন তাদের অধিকাংশই ইঞ্জিনিয়ারদের জন্য লেখা প্রকৌশলী। তারা এমন সমাধানে পৌঁছায় যার মধ্যে রয়েছে মডেলের ফাইন-টিউনিং, দ্রুত অপ্টিমাইজেশান এবং স্থাপনার অবকাঠামো। এই বাস্তব সরঞ্জাম. এগুলি এমন সরঞ্জাম নয় যা এই সমস্যার সাথে মোকাবিলা করা বেশিরভাগ লোকেরই আসলে অ্যাক্সেস রয়েছে৷
এই নিবন্ধটি দ্বিতীয় গ্রুপের জন্য। প্রজেক্ট ম্যানেজার, অপারেশন লিড এবং টেকনিক্যাল ইঞ্জিনিয়ার যারা AI প্রোডাক্ট তৈরি করছেন না কিন্তু নিঃশব্দে তাদের ইতিমধ্যেই মালিকানাধীন অপারেশনাল ওয়ার্কফ্লোতে AIকে উপযোগী করার চেষ্টা করছেন। সমস্যাগুলো এখান থেকে ভিন্ন দেখায়। ব্যর্থতার মোড ভিন্ন। এবং যে স্থাপত্যটি সত্যিই কাজ করে তা বেশিরভাগ এলএলএম টিউটোরিয়ালের বর্ণনার মতো নয়।
অপারেশনাল AI এর সাথে আমরা কী ভুল পেয়েছি
সমস্যাটি কখনই ছিল না যে আমাদের সিস্টেমগুলি যথেষ্ট স্মার্ট ছিল না। এটা ছিল যে আমরা ক্রমাগত বুদ্ধিমত্তাকে এমন কাজ করতে বলছিলাম যাতে ধারাবাহিকতার প্রয়োজন হয়।
যখন এলএলএমগুলি ব্যাপকভাবে উপলব্ধ হয়ে ওঠে, তখন অনুমানটি বোধগম্য হয়: যদি আমাদের সিস্টেমগুলি অবশেষে জটিলতার মধ্য দিয়ে ভাষা এবং যুক্তি বুঝতে পারে, তবে অপারেশনাল সমস্যাগুলি অনুসরণ করবে। কেউ স্পষ্টভাবে যা বলেননি তা হল অপারেশনাল সমস্যাগুলি যুক্তির সমস্যা নয়। তারা বারবার সমস্যা হয়.
অপারেশনগুলি একটি সাধারণ চুক্তিতে পরিচালিত হয়। একই ইনপুট প্রতিবার একই আউটপুট তৈরি করা উচিত। এটা উচ্চাকাঙ্ক্ষার সীমাবদ্ধতা নয়, এটাই পুরো বিষয়। একবার একটি সিস্টেম একটি রিটার্ন ট্রিগার বা একটি রেকর্ড আপডেট করার বিষয়ে সৃজনশীলভাবে চিন্তা করা শুরু করলে, আপনি দক্ষতার চেয়ে বেশি মূল্যবান কিছু হারিয়েছেন। আপনি আউটপুট বিশ্বাস হারিয়েছেন.
এবং এখানেই যান্ত্রিকতা গুরুত্বপূর্ণ। মাস্টার্স অধ্যয়ন মৌলিকভাবে অ-নির্ধারক। একই প্রশ্ন দুইবার করুন এবং আপনি দুটি ভিন্ন উত্তর পাবেন। দুটোই সত্যি হতে পারে। তাদের কোনটাই এক হবে না। কল সহকারী ঠিক আছে। এমন একটি সিস্টেমের জন্য যা ওয়ার্কলোড, অটোমেশন লজিক, বা পুনঃব্যবহারযোগ্য ওয়ার্কফ্লো তৈরি করে যা শত শত উদাহরণের উপর নির্ভরযোগ্যভাবে কার্যকর করতে হবে, এই বৈচিত্রটি অস্বাভাবিক নয়। এটি একটি কাঠামোগত অমিল।
বেশিরভাগ ডেমো আপনাকে দেখায় যে কীভাবে এমন কিছু তৈরি করতে হয় যা বিচ্ছিন্নভাবে কাজ করে। একটি টুল যা ইনপুট নেয় এবং আউটপুট তৈরি করে যা স্ক্রিনে সঠিক দেখায়। তারা যা দেখায় না তা হল যখন সেই আউটপুটটি কোথাও ভ্রমণের প্রয়োজন হয় তখন কী ঘটে। অন্য সিস্টেমে, ডাটাবেস, API এন্ডপয়েন্ট, ডাউনস্ট্রীম প্রক্রিয়া যা একটি নির্দিষ্ট কাঠামো, নির্দিষ্ট ক্ষেত্রের নাম, নির্দিষ্ট ডেটা প্রকারের প্রত্যাশা করে। একবার আপনার LLM-এর আউটপুট প্রকৃত ডেটা ইকোসিস্টেমে প্রবেশ করলে, এটি সঠিক মনে হলে এটি মূল্যায়ন করা বন্ধ করে দেয় এবং এটি ঠিক সঠিক কিনা তা মূল্যায়ন করা শুরু করে। এগুলো সম্পূর্ণ ভিন্ন মান।
LLM আনস্ট্রাকচার্ড ইনপুট ইনপুট আনস্ট্রাকচার্ড আউটপুট ইনপুট উত্পাদন অন্য সিস্টেম একটি পাইপলাইন নয়. এটি এমন একটি অনুমানের শৃঙ্খল যা তারা সত্য হওয়ার মুহুর্তের জন্য অপেক্ষা করছে।
কেন এমনকি বিশুদ্ধ অটোমেশন যথেষ্ট নয়
যদি এলএলএম অধ্যয়নগুলি অপারেশনাল কাজের জন্য খুব অপ্রত্যাশিত হয়, তবে স্পষ্ট উত্তরটি আমাদের আগে যা ছিল তা ফিরে যাচ্ছে বলে মনে হয়। স্পষ্ট নিয়ম, সংজ্ঞায়িত যুক্তি, প্রত্যাশিত আউটপুট। যথেষ্ট সাবধানে ওয়ার্কফ্লো তৈরি করুন এবং এটি ধরে রাখা উচিত।
এটা ধারণ করে। বাস্তবতা পরিবর্তন না হওয়া পর্যন্ত।
নিয়ম-ভিত্তিক সিস্টেমগুলি আপনি তৈরি করার সাথে সাথে বিশ্বের একটি স্ন্যাপশট। পৃথিবী এখনো নেই।
আপনার সিস্টেম যে ইনপুট ফর্ম্যাটটি আশা করে তা হল ইনপুট ফর্ম্যাটটি কেউ গত ত্রৈমাসিকে পাঠাতে সম্মত হয়েছে৷ ক্ষেত্রের নাম, ডেটা স্ট্রাকচার, ক্রিয়াকলাপগুলির ক্রম, সবকিছুই বিশ্বের এমন একটি সংস্করণকে ঘিরে ডিজাইন করা হয়েছিল যা ইতিমধ্যেই অটোমেশন লাইভ হওয়ার সময় থেকে কিছুটা পুরানো হয়ে গেছে। যখন এই পৃথিবী পরিবর্তিত হয়, এবং এটি সর্বদা পরিবর্তিত হয়, সিস্টেমটি মানিয়ে নেয় না। ভেঙ্গে গেল। কখনও জোরে, কখনও শান্তভাবে, এবং এটি আরও খারাপ।
দ্বিতীয় সমস্যা হল এই মেরামতের খরচ কত। যেকোন এজ কেস যা মূল নিয়মের বাইরে পড়ে তার জন্য একটি মানবিক সিদ্ধান্তের প্রয়োজন হয় এবং তারপরে একটি নিয়ম আপডেটের পরে পরীক্ষা এবং তারপর স্থাপনার প্রয়োজন হয়। যে কোনও বাস্তব অপারেটিং পরিবেশের প্রাকৃতিক এনট্রপি দ্বারা গুণ করুন এবং রক্ষণাবেক্ষণের বোঝা কাজ হয়ে যায়। আপনি আর একটি প্রক্রিয়া চালাচ্ছেন না। আপনি প্রক্রিয়া পরিচালনার উপর একটি প্রক্রিয়া চালান।
মাঝখানে কোথাও কি হারিয়ে গেছে তা হল বিচক্ষণতা যা ম্যানুয়ালি কাজ করা ব্যক্তির সাথে বাস করত। বড় অর্থে বুদ্ধি নয়। সামান্য অপ্রত্যাশিত কিছু দেখার এবং এর সাথে কী করতে হবে তা জানার শান্ত এবং ব্যবহারিক ক্ষমতা।
এটি ঠিক সেই শূন্যস্থান যা বিশুদ্ধ অটোমেশন বা বিশুদ্ধ এলএলএম নিজেরাই পূরণ করে না।
হাইব্রিড আর্কিটেকচারের মানসিক মডেল
সমাধান একটি ভাল LLM নয়. এটি একটি পরিষ্কার বর্ডার।
একবার আপনি স্বীকার করেন যে এলএলএম এবং ডিটারমিনিস্টিক সিস্টেমগুলি বিপরীত কারণে ব্যর্থ হয়, আর্কিটেকচার প্রযুক্তি পছন্দ সম্পর্কে কম এবং দায়িত্ব ভাগ করার বিষয়ে আরও বেশি হয়ে যায়। কোন টুল ব্যবহার করতে হবে তা নিয়ে প্রশ্নটি শেষ হয়ে যায় এবং প্রতিটি টুল সত্যিই ফিট করে সমস্যার কোন স্তরের জন্য হতে শুরু করে।
এলএলএমগুলি অপারেশনাল প্রসঙ্গে একটি নির্দিষ্ট জিনিসে ভাল: অস্পষ্টতাকে কাঠামোতে রূপান্তর করা। অগোছালো, অসামঞ্জস্যপূর্ণ বা খোলা কিছু নেয় এবং একটি পরিষ্কার, স্বাভাবিক আউটপুট তৈরি করে যা একটি ডাউনস্ট্রিম সিস্টেম কাজ করতে পারে। এটি একটি সত্যিই সহায়ক কাজ. এটা শুধু সব কাজ না.
ডিটারমিনিস্টিক সিস্টেমগুলি কার্যকর করার ক্ষেত্রে ভাল। পরিষ্কার, কাঠামোগত ইনপুট দেওয়া হলে, তারা প্রতিবার একইভাবে একই ক্রিয়া সম্পাদন করবে। কোন যুক্তি নেই, কোন ব্যাখ্যা নেই, কোন ভিন্নতা নেই। এই ভবিষ্যদ্বাণী একটি দুর্বলতা নয়. এটিই তাদের স্কেলে নির্ভরযোগ্য করে তোলে।
হাইব্রিড মডেল প্রতিটি স্তর যেখানে এটির সেখানে রাখে। অস্পষ্টতা কার্যকর করার স্তরে পৌঁছানোর আগেই সমাধান করা হয়। মৃত্যুদন্ড ব্যাখ্যা ছাড়াই ঘটে। উভয়ের মধ্যে সীমানা একটি প্রযুক্তিগত বিশদ নয়। এটি সম্পূর্ণ নকশা সিদ্ধান্ত.
এই সীমাটি সিস্টেমের মাধ্যমে ডেটা সরানোর উপায়ও পরিবর্তন করে। LLM আউটপুট সরাসরি কার্যকর করা হয় না। এটি প্রথমে যাচাই করা হয়। স্কিমা চেক, সীমাবদ্ধতা প্রয়োগ, বিশ্বাসের থ্রেশহোল্ড, অপারেশনাল প্রেক্ষাপটের প্রয়োজন যাই হোক না কেন। যদি আউটপুট মানদণ্ড পূরণ না করে তবে এটি চলতে থাকে না। এটা রোল ফিরে. LLM একটি ঘনিষ্ঠ সংযোগ, একটি সংশোধিত নির্দেশ বা একটি সংকীর্ণ সুযোগ সহ অতিরিক্ত অভিজ্ঞতা পায়। এই লুপ একটি ব্যর্থতা মোড নয়. এটা পরিকল্পিত আচরণ। এটিই সিস্টেমটিকে নির্ভরযোগ্য করে তোলে এবং আশাবাদী নয়।
আপনি আপনার মনোযোগ কোথায় রাখেন তা আসলে গুরুত্বপূর্ণ। LLM স্তরটিকে এর অন্তর্নির্মিত আউটপুটগুলির গুণমান এবং ধারাবাহিকতার উপর বিচার করা উচিত, এর চিত্তাকর্ষক প্রতিক্রিয়াগুলির পরিমাণের উপর নয়। মৃত্যুদন্ডের স্তরটি নির্ভরযোগ্যতার জন্য মূল্যায়ন করা উচিত, নমনীয়তার জন্য নয়। মাঝের প্রমাণীকরণ স্তরটিকে স্থাপত্যের প্রথম শ্রেণীর নাগরিক হিসাবে বিবেচনা করা উচিত, কিছু ভেঙে গেলে পরে চিন্তাভাবনা করা নয়।
স্থাপত্য সহজ. সীমান্ত ধরে রাখাই আসল কাজ।
একটি বিনয়ী পূর্বাভাস
এআই কথোপকথনের সবচেয়ে জোরে অংশটি হল মডেলগুলি সম্পর্কে। কোনটি স্মার্ট, দ্রুত, সস্তা। তিনি কোন মান দ্বারা এবং কত দ্বারা জিতেছিলেন? এই কথোপকথন খারাপভাবে বয়স হবে.
মডেলগুলি বেশিরভাগ লোকের প্রত্যাশার চেয়ে দ্রুত পণ্য হয়ে ওঠে। নেতৃস্থানীয় বিকল্পগুলির মধ্যে সক্ষমতার ব্যবধান সংকুচিত হচ্ছে, প্রতিস্থাপনের খরচ কম এবং উন্নতির হারের মানে হল যে আপনি আজ যা বেছে নেবেন তা কয়েক মাসের মধ্যে অপ্রচলিত হয়ে যাবে। আপনার অপারেটিং সিস্টেমকে একটি নির্দিষ্ট মডেলে অ্যাঙ্কর করা ইতিমধ্যেই একটি কৌশলগত ভুলের মতো দেখাতে শুরু করেছে৷
যা পণ্য নয় তা হল মডেলের চারপাশের স্থাপত্য। যুক্তি এবং সঞ্চালনের মধ্যে একটি পরিষ্কার লাইনের চারপাশে ডিজাইন করা একটি সিস্টেম এটির ভিতরে কোন মডেলটি বসে তা বিবেচনা করে না। একটি ভাল বিকল্প উপলব্ধ হয়ে গেলে, আপনি এটি প্রতিস্থাপন করুন। কর্মপ্রবাহ চলতে থাকে। বৈধতা যুক্তি এখনও ধরে. কিছুই ভাঙেনি।
মডেল কনটেক্সট প্রোটোকল এবং অনুরূপ মান সঠিক দিকে অগ্রসর হয়. তারা বহিরাগত সিস্টেমের সাথে সংযোগ করার জন্য LLM স্ট্যান্ডার্ড ইন্টারফেস দেয়, একীকরণ ঘর্ষণ উল্লেখযোগ্যভাবে হ্রাস করে। কিন্তু সংযোগ সঠিকতা হিসাবে একই নয়। কীভাবে সিস্টেমে পৌঁছাতে হয় তা জানা এবং কীভাবে একটি আউটপুট তৈরি করতে হয় যা সিস্টেমটি ভাঙা ছাড়াই পাবে তা দুটি আলাদা সমস্যা। MCPs প্রথম সমাধান. প্রমাণীকরণ স্তর, সীমানা নকশা, লুপ যুক্তি, সেগুলি এখনও আপনার সাথে থাকে। নদীর গভীরতানির্ণয় ভালো হচ্ছে। এর মধ্য দিয়ে যা যায় তা এখনও সত্য হতে হবে।
যে গোষ্ঠীগুলি দ্রুততম গতিতে চলে যাবে তারা সেরা মডেল বেছে নেয় না৷ তারাই মডেলটিকে বিনিময়যোগ্য করে তুলেছে।
টুওয়ার্ডস এআই এর মাধ্যমে পোস্ট করা হয়েছে
