এই প্রতিবেদনটি এই সপ্তাহের টেক ডাউনলোড নিউজলেটার থেকে। আপনি কি দেখতে চান? আপনি নিবন্ধন করতে পারেন এখানে
ওপেনএআই-এর দুর্বৃত্ত মডেলগুলি গত সপ্তাহে স্টার্টআপ হাগিং ফেসের বিরুদ্ধে সাইবার আক্রমণ শুরু করলে, কোম্পানিটি এর বিরুদ্ধে রক্ষা করার জন্য অন্য এআই মডেল ব্যবহার করে আগুনের সাথে লড়াই করে।
এটি স্বায়ত্তশাসিত হ্যাকিংয়ের একটি সাই-ফাই গল্প এবং এটি সপ্তাহের সবচেয়ে আলোচিত প্রযুক্তি গল্পগুলির মধ্যে একটি ছিল। কিন্তু দুর্বৃত্ত AI-এর বিরুদ্ধে লড়াই করতে ব্যবহৃত Hugging Face মডেলের উৎপত্তিও একটি হেড-টার্নার।
স্টার্টআপটি GLM 5.2 ব্যবহার করেছে, একটি ওপেন ওয়েট সিস্টেম যা চীনা কোম্পানি Z.ai দ্বারা তৈরি করা হয়েছে।
শেষ পর্যন্ত, এটি সফল হয়েছে যেখানে তার প্রধান মার্কিন প্রতিদ্বন্দ্বীরা ব্যর্থ হয়েছে।
একটি ল্যাপটপে আলিঙ্গন ফেস সাইটটি নিউ ইয়র্ক, মার্কিন যুক্তরাষ্ট্রে, বৃহস্পতিবার, 17 আগস্ট, 2023-এ সারিবদ্ধ। Nvidia AI মডেল এবং ডেটা সিস্টেমের একটি জনপ্রিয় বিকাশকারী Hugging Face-এর সাথে একটি অংশীদারিত্বের ঘোষণা করেছে, যাতে Nvidia DGX ক্লাউড ব্যবহার করে একটি টিউটোরিয়াল পরিষেবা যুক্ত করা যায় যা ব্যবহারকারীদের তাদের ট্যাপ-লোড করার জন্য কাজ করতে দেয়। ছবি: গ্যাবি জোন্স/ব্লুমবার্গ গেটি ইমেজেসের মাধ্যমে
ব্লুমবার্গ | ব্লুমবার্গ | গেটি ইমেজ
সাইবার হামলা
যদি আপনি এটি মিস করেন, OpenAI গতকাল বলেছে যে এটির সবচেয়ে শক্তিশালী মডেলের সংমিশ্রণ এবং এখনও প্রকাশিত হতে না হওয়া আরও সক্ষম মডেল একটি স্যান্ডবক্স পরীক্ষার পরিবেশ থেকে পালিয়ে গেছে, ইন্টারনেট অ্যাক্সেস করেছে এবং Hugging Face এর সিস্টেমগুলিতে অ্যাক্সেস পেতে দুর্বলতাগুলিকে কাজে লাগিয়েছে৷
মডেলটি মূল্যায়ন ঠকাতে ব্যবহার করতে পারে এমন তথ্য খুঁজে বের করার চেষ্টা করেছিল এবং এটি সফল হয়েছে, OpenAI বলেছে।
আক্রমণের উত্সটি প্রাথমিকভাবে আলিঙ্গন মুখের কাছে একটি রহস্য ছিল, তবে ঘটনার কয়েকদিন পরে সংস্থাটি এআই ল্যাবকে সহযোগিতা করে।
“আমরা গত 24 ঘন্টা @OpenAI টিমের সাথে ঘনিষ্ঠভাবে কাজ করেছি (ধন্যবাদ!), এবং আমরা দৃঢ়ভাবে বিশ্বাস করি যে তাদের পক্ষ থেকে কোনও দূষিত উদ্দেশ্য ছিল না,” Hugging Face CEO Clement Delangue X-এ একটি পোস্টে লিখেছেন। “এটি বেশ আশ্চর্যজনক যে এটি সব স্বায়ত্তশাসিতভাবে ঘটেছে!”
এআই ইন্ডাস্ট্রিতে শোক ছড়িয়ে পড়ে যখন খবর ছড়িয়ে পড়ে যে একটি দুর্বৃত্ত ওপেনএআই মডেল হামলার পিছনে ছিল। সংস্থাটি নিরাপত্তার ঘটনাটিকে “অভূতপূর্ব” বলে অভিহিত করেছে।
ফিরে যুদ্ধ
হাগিং ফেস প্রাথমিকভাবে আক্রমণ বিশ্লেষণ করার জন্য অ্যানথ্রোপিকস ফেবল 5 সহ ফ্রন্ট-এন্ড মডেলের দিকে তাকিয়েছিল, ইয়াসিন জার্নাইট, কোম্পানির মেশিন লার্নিং প্রধান, সিএনবিসিকে বলেছেন।
“এটি কাজ করেনি কারণ গার্ডেলগুলি নির্ধারণ করতে পারেনি যে আমরা আক্রমণের বিরুদ্ধে রক্ষা করার চেষ্টা করছি,” তিনি বলেন, এই পদ্ধতিটিও ধীর এবং আরও ব্যয়বহুল ছিল।
মডেলগুলির জন্য অনুরোধগুলি বিক্রেতা গার্ডেল দ্বারা অবরুদ্ধ করা হয়েছিল, ঘটনার প্রতিক্রিয়াকারীকে কী আক্রমণ করছে তা নির্ধারণ করতে অক্ষম৷
“তাই [Hugging Face] আমরা দ্রুত আক্রমণ বিশ্লেষণ করার উপায় হিসাবে Z.ai এর GLM 5.2 ব্যবহার করতে চলে এসেছি, এবং এই মডেলটি ব্যবহার করে খুব দ্রুত এটিকে ধারণ করতে সক্ষম হয়েছি,” জার্নাইট বলেছেন।
GLM 5.2 জুন মাসে ব্যাপক ধুমধাম করে মুক্তি পায় এবং এটি ডেভেলপারদের মধ্যে একটি দুর্দান্ত সাফল্য ছিল।
একটি ওপেন ওয়েট মডেল হিসাবে, কোম্পানিগুলি এটিকে ডাউনলোড, পরিবর্তন, বাণিজ্যিকভাবে স্থাপন করতে পারে এবং এই জটিল ক্ষেত্রে – এটি নিজেরাই হোস্ট করতে পারে।
“এটির একটি দ্বিতীয় সুবিধা ছিল: কোনও বৈধ ডেটা নেই এবং কোনও নিশ্চিতকরণ নেই [GLM 5.2] মোকাবেলা করুন, আমাদের আশেপাশে ছেড়ে যান, “আলিঙ্গন মুখ ঘটনাটি সম্পর্কে একটি ব্লগ পোস্টে বলেছেন।
এই সব আসে যখন মার্কিন আইন প্রণেতারা ক্রমবর্ধমানভাবে বিবেচনা করছেন যে কীভাবে দেশীয় কোম্পানিগুলির দ্বারা চীনা AI মডেলগুলির ক্রমবর্ধমান গ্রহণকে রোধ করা যায়, যখন মার্কিন-চীন এআই অস্ত্র প্রতিযোগিতা উত্তপ্ত হয়ে উঠছে।
চীনা কৃত্রিম বুদ্ধিমত্তা সংস্থাগুলির দ্বারা নির্মিত মডেলগুলিতে অ্যাক্সেস সীমিত করার পদক্ষেপের জন্য ক্রমবর্ধমান কল রয়েছে, যেগুলি প্রতিদ্বন্দ্বী মার্কিন সিস্টেমগুলি থেকে তথ্য আহরণের জন্য প্রচারণার জন্য অভিযুক্ত হয়েছে।
কিন্তু OpenAI-Hugging Face ঘটনাটি সবচেয়ে সক্ষম ওপেন-সোর্স এবং ওপেন-ওয়েট মডেলগুলিতে অ্যাক্সেস সীমিত করার চ্যালেঞ্জগুলিকে হাইলাইট করে, তারা যেখানেই তৈরি করা হোক না কেন।
“আক্রমণকারী একটি ব্যবহার নীতি দ্বারা আবদ্ধ ছিল না, যখন আমাদের আইনি কাজ হোস্ট করা মডেলগুলির গার্ডেল দ্বারা অবরুদ্ধ করা হয়েছিল যেগুলি আমরা প্রথম চেষ্টা করেছিলাম,” বলেছেন আলিঙ্গন মুখ। “রক্ষকদের জন্য ব্যবহারিক পাঠ: একটি উপযুক্ত মডেল আছে যা আপনি আপনার পরিকাঠামোতে চালাতে পারেন যা একটি ঘটনার আগে পরীক্ষিত এবং প্রস্তুত।”
নিজেরাই AI মডেল তৈরি করা ছাড়া অন্য কোনও সংস্থার জন্য, এর অর্থ সাধারণত ওপেন সোর্স বা ওপেন ওয়েটের দিকে যাওয়া। এই মুহুর্তে সবচেয়ে সক্ষমগুলি চীনে তৈরি। মার্কিন যুক্তরাষ্ট্র যদি চীনা-উন্নত মডেলগুলিতে অ্যাক্সেস সীমিত করতে চলে যায়, তবে এটি কীভাবে পতনের জন্য স্বদেশী ওপেন-সোর্স এআইকে শক্তিশালী করে তা নিয়ে বড় প্রশ্ন রয়েছে।
কৃত্রিম বুদ্ধিমত্তার সাইবার আক্রমণের যুগের দিকে এগিয়ে চলা বিশ্বে, সক্ষম এবং সর্বোপরি নির্ভরযোগ্য মডেলগুলিতে অ্যাক্সেস অপরিহার্য হবে।
সর্বশেষ আপডেট
হোয়াইট হাউসের একজন কর্মকর্তা চীনা এআই ফার্ম মুনশটকে প্রবেশের জন্য দায়ী করেছেন এনভিডিয়ার উন্নত চিপসরপ্তানি নিয়ন্ত্রণ থাকা সত্ত্বেও যা তাদের তা করতে নিষেধ করে।
ইউরোপীয় নিয়ন্ত্রকদের জরিমানা গুগল 890 মিলিয়ন ইউরো (বিলিয়ন ডলার), এই ভিত্তিতে যে কোম্পানি তার নিজস্ব পরিষেবাগুলিতে অগ্রাধিকারমূলক আচরণ দেয়৷
মার্কিন যুক্তরাষ্ট্রে উন্নত চিপ তৈরির জন্য ট্রাম্পের চাপ মার্জিন হ্রাস করছে টিএসএমসি, বিশ্বের শীর্ষস্থানীয় চিপ প্রস্তুতকারক।
OpenAI এবং Anthropic তাদের ফেডারেল লবিং খরচ রেকর্ড মাত্রায় বাড়িয়েছে 2026 এর দ্বিতীয় ত্রৈমাসিকে, যখন এআই শিল্প ওয়াশিংটনকে প্রভাবিত করার জন্য লক্ষ লক্ষ টাকা ঢেলে দিয়েছে।
বৃহস্পতিবার কংগ্রেসে একটি এআই কিল সুইচ বিল পেশ করা হয়েছিল, যার জন্য AI কোম্পানিগুলিকে তাদের মডেলগুলি বন্ধ, নম্র বা স্থগিত করার ক্ষমতা বজায় রাখতে হবে।
আরো একটি জিনিস
টেসলা স্টক।
আমি নজর রাখলাম টেসলা গত 24 ঘন্টায় স্টকটি, কারণ বিনিয়োগ ব্যয় বেড়ে যাওয়ার পরে এবং লাভ প্রত্যাশার কম হয়ে যাওয়ার পরে এলন মাস্কের বৈদ্যুতিক যান এবং রোবোটিক্স কোম্পানির শেয়ার তলিয়ে গেছে।
