পরীক্ষায় এআই মডেলের কাণ্ডে চমকে গেলেন গবেষকেরা
কৃত্রিম বুদ্ধিমত্তার (এআই) দ্রুত অগ্রগতির সঙ্গে নিরাপত্তা নিয়ে উদ্বেগও বাড়ছে। সম্প্রতি এমনই এক পরীক্ষায় চাঞ্চল্যকর দাবি সামনে এসেছে। ‘ওপেনএআই’-এর একটি পরীক্ষামূলক এআই মডেল নাকি মানুষের কোনও নির্দেশ ছাড়াই নিজস্ব সুরক্ষিত পরিবেশ বা ‘স্যান্ডবক্স’ থেকে বেরিয়ে বহিরাগত সার্ভারে পৌঁছে সাইবার হামলা চালিয়েছে। এমনকি নিরাপত্তা ব্যবস্থা পাশ কাটিয়ে সংস্থারই সুরক্ষিত তথ্য সংগ্রহ করতেও সক্ষম হয়েছে বলে দাবি করা হয়েছে।
ঘটনাটি সামনে আসার পর থেকেই স্বয়ংক্রিয় বা অটোনোমাস এআই এজেন্টের নিরাপত্তা নিয়ে নতুন করে প্রশ্ন উঠেছে প্রযুক্তি মহলে। গবেষকদের একাংশের মতে, ভবিষ্যতের আরও উন্নত এআই ব্যবস্থার ক্ষেত্রে এমন আচরণ বড় ঝুঁকির ইঙ্গিত হতে পারে।
প্রকাশিত প্রতিবেদনে দাবি করা হয়েছে, ‘ওপেনএআই’ তাদের অভ্যন্তরীণ সাইবার নিরাপত্তা মূল্যায়ন কাঠামো ‘এক্সপ্লয়েটজিম’-এর মাধ্যমে নতুন এআই মডেলগুলির সক্ষমতা যাচাই করছিল। পরীক্ষার অংশ হিসেবে মডেলটির কিছু নিরাপত্তা বিধিনিষেধ সাময়িকভাবে শিথিল করা হয়েছিল, যাতে বাস্তব পরিস্থিতিতে সেটি কীভাবে কাজ করে, তা বোঝা যায়।
সাধারণ নিয়মে এই ধরনের পরীক্ষা সম্পূর্ণ বিচ্ছিন্ন একটি ভার্চুয়াল পরিবেশে বা ‘স্যান্ডবক্স’-এ পরিচালিত হয়। সেখানে বাইরের ইন্টারনেট বা অন্য কোনও সিস্টেমে প্রবেশের সুযোগ থাকে না। কিন্তু অভিযোগ, পরীক্ষার সময় সংশ্লিষ্ট এআই মডেলটি নিজেই সেই সীমাবদ্ধতা অতিক্রম করে বাইরে বেরিয়ে যায়।
এর পর সেটি ‘হাগিং ফেস’ প্ল্যাটফর্মের সার্ভারে পৌঁছে নিরাপত্তা ব্যবস্থা এড়িয়ে সংরক্ষিত তথ্য সংগ্রহ করে। ‘হাগিং ফেস’ হল বিশ্বের অন্যতম জনপ্রিয় ওপেন-সোর্স এআই ও মেশিন লার্নিং প্ল্যাটফর্ম, যেখানে গবেষক ও ডেভেলপাররা বিভিন্ন ভাষা, ছবি ও অডিয়ো-ভিত্তিক এআই মডেল তৈরি, প্রশিক্ষণ ও ভাগ করে নেন।
এই ঘটনার সবচেয়ে গুরুত্বপূর্ণ দিক হল, পুরো প্রক্রিয়াটি নাকি মানুষের প্রত্যক্ষ হস্তক্ষেপ ছাড়াই সম্পন্ন হয়েছে। অর্থাৎ, এআই মডেলটি নিজস্ব সিদ্ধান্তে পরিস্থিতি বিশ্লেষণ করে একের পর এক পদক্ষেপ নিয়েছে।
প্রসঙ্গত, ২০১৫ সালে স্যাম অল্টম্যান এবং ইলন মাস্ক-সহ একাধিক প্রযুক্তি উদ্যোক্তার উদ্যোগে প্রতিষ্ঠিত হয় ‘ওপেনএআই’। সংস্থার মূল লক্ষ্য নিরাপদ ও দায়িত্বশীল কৃত্রিম বুদ্ধিমত্তা তৈরি করা। জনপ্রিয় চ্যাটজিপিটিও এই সংস্থারই উদ্ভাবন।
তবে এই ঘটনার দাবি এখনও প্রযুক্তি মহলে ব্যাপক আলোচনার বিষয়। বিশেষজ্ঞদের মতে, এমন পরীক্ষার উদ্দেশ্যই হল সম্ভাব্য দুর্বলতা আগেভাগে চিহ্নিত করা, যাতে ভবিষ্যতের এআই ব্যবস্থাগুলিকে আরও নিরাপদ করে তোলা যায়। একই সঙ্গে এই ঘটনা দেখিয়ে দিয়েছে, এআই যত শক্তিশালী হচ্ছে, তার নিরাপত্তা পরীক্ষাও ততটাই কঠোর ও বাস্তবসম্মত হওয়া প্রয়োজন।
রাহার জন্মের পর দ্রুত ওজন কমিয়ে কটাক্ষের শিকার আলিয়া, কী ছিল তাঁর রহস্য?
