ফিলাডেলফিয়া শহরে একটি অমীমাংসিত খু নের মামলায় পুলিশের কাছে ভুয়া তথ্য পাঠিয়েছে কৃত্রিম বুদ্ধিমত্তা বা এআই প্রতিষ্ঠান অ্যানথ্রপিকের তৈরি একটি মডেল। প্রতিষ্ঠানটির পরীক্ষামূলক কার্যক্রমের সময় এ ঘটনা ঘটে। তবে পুলিশের কাছে পাঠানো বার্তাটি স্প্যাম হিসেবে চিহ্নিত হওয়ায় তদন্তকারীদের কাছে পৌঁছায়নি। ঘটনাটি প্রকাশ্যে আসার পর এআই প্রযুক্তির নিয়ন্ত্রণ, নিরাপত্তা এবং স্বয়ংক্রিয় ব্যবস্থার ওপর নজরদারি নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে।
ফিলাডেলফিয়া পুলিশ বিভাগের তথ্য অনুযায়ী, গত ১৮ জুলাই স্থানীয় সময় রাত সাড়ে ১১টার দিকে শহরের অমীমাংসিত খু নের ঘটনা নিয়ে তথ্য সংগ্রহের ওয়েবসাইট PhillyUnsolvedMurders.com-এ বার্তাটি পাঠানো হয়। ওয়েবসাইটটি ব্যবহার করে সাধারণ মানুষ পুরোনো ও অমীমাংসিত খু নের মামলার বিষয়ে পুলিশের কাছে তথ্য দিতে পারেন।
বার্তায় এমনভাবে লেখা হয়েছিল, যেন একজন ব্যক্তি সংশ্লিষ্ট মামলার বিষয়ে কিছু জানেন এবং সম্ভাব্য প্রত্যক্ষদর্শী হিসেবে পুলিশের সঙ্গে যোগাযোগ করতে চাইছেন। বার্তাটিতে দাবি করা হয়, নির্দিষ্ট সময়ের মধ্যে উল্লেখ করা এলাকার আশপাশে মামলার বর্ণনার সঙ্গে মেলে এমন একজনকে দেখা হয়েছিল। এ বিষয়ে তথ্য প্রয়োজন হলে পুলিশের সঙ্গে যোগাযোগ করার অনুরোধও জানানো হয়।
তবে বার্তাটি কোনো বাস্তব প্রত্যক্ষদর্শীর কাছ থেকে আসেনি। অ্যানথ্রপিকের এআই মডেল পরীক্ষার অংশ হিসেবে নিজে থেকেই এই তথ্য তৈরি করে পাঠিয়েছিল। প্রতিষ্ঠানটি পরে বিষয়টি শনাক্ত করে পুলিশকে জানায়।
পুলিশের কাছে পাঠানো বার্তাটি স্প্যাম হিসেবে চিহ্নিত হয়েছিল। ফলে সেটি তদন্তকারীদের কাছে পৌঁছায়নি এবং মামলার তদন্তে ব্যবহার করা হয়নি। পুলিশ জানিয়েছে, এ ঘটনার মাধ্যমে তাদের কোনো তথ্যভান্ডারে অননুমোদিত প্রবেশ বা তথ্য হাতিয়ে নেওয়ার প্রমাণ পাওয়া যায়নি।
পরীক্ষামূলক কার্যক্রম থেকেই ঘটনার সূত্রপাত
অ্যানথ্রপিক জানিয়েছে, বিভিন্ন ওয়েবসাইটের সঙ্গে এআই মডেলের আচরণ পরীক্ষা করার সময় ঘটনাটি ঘটে। পরীক্ষায় মডেলটিকে বিভিন্ন ওয়েবসাইটের সঙ্গে যোগাযোগের অনুশীলন করতে দেওয়া হয়েছিল। কিন্তু পরীক্ষার জন্য নির্ধারিত সীমার বাইরে গিয়ে মডেলটি পুলিশের প্রকৃত ওয়েবসাইটে প্রবেশ করে এবং সেখানে একটি বার্তা জমা দেয়।
প্রতিষ্ঠানটির ব্যাখ্যা অনুযায়ী, মডেলটিকে কোনো অ্যাকাউন্ট তৈরি, ব্যক্তিগত তথ্য দেওয়া, কেনাকাটা করা কিংবা ক্ষতিকর কোনো কাজ করতে নিষেধ করা হয়েছিল। তবে অনলাইন ফরমে তথ্য জমা দেওয়ার বিষয়ে স্পষ্ট নিষেধাজ্ঞা ছিল না। সেই সীমাবদ্ধতার সুযোগেই মডেলটি বাস্তব ওয়েবসাইটে ভুয়া তথ্য পাঠিয়ে বসে।
অ্যানথ্রপিক গত ২৮ সেপ্টেম্বর ঘটনাটি শনাক্ত করে। এরপর সংশ্লিষ্ট পরীক্ষামূলক কার্যক্রম বন্ধ করা হয় এবং ভবিষ্যতে এমন ঘটনা ঠেকাতে অতিরিক্ত যাচাইব্যবস্থা যুক্ত করা হয়।
তবে ঘটনাটি শনাক্ত করার পরও পুলিশকে জানাতে কয়েক দিন সময় নেয় প্রতিষ্ঠানটি। গত ৭ অক্টোবর ফিলাডেলফিয়া পুলিশকে বিষয়টি জানানো হয়। পরদিন পুলিশ ও অ্যানথ্রপিকের প্রতিনিধিদের মধ্যে এ নিয়ে আলোচনা হয়।
পুলিশ বিভাগ জানিয়েছে, ঘটনাটি শনাক্ত ও জানানোর ক্ষেত্রে দুই মাসের বিলম্ব গ্রহণযোগ্য নয়। অমীমাংসিত মামলার সঙ্গে বাস্তব ভুক্তভোগী, শোকাহত পরিবার এবং দীর্ঘদিন ধরে উত্তর খুঁজতে থাকা তদন্তকারীরা জড়িত। তাই প্রযুক্তি প্রতিষ্ঠানগুলোকে এ ধরনের ভুয়া তথ্য জমা পড়া ঠেকাতে যথাযথ নিরাপত্তাব্যবস্থা নিতে হবে।
এআইয়ের অনিয়ন্ত্রিত আচরণ নিয়ে উদ্বেগ
অ্যানথ্রপিকের প্রকাশ করা তথ্য অনুযায়ী, পুলিশের কাছে ভুয়া বার্তা পাঠানোর ঘটনাটি এআই মডেলের অনাকাঙ্ক্ষিত আচরণের একাধিক ঘটনার মধ্যে একটি। প্রতিষ্ঠানটি জানিয়েছে, যুক্তরাষ্ট্রের বিভিন্ন পর্যায়ের সরকারি ওয়েবসাইট এবং অনলাইন সেবার সঙ্গে সম্পর্কিত আরও কিছু ঘটনায় তাদের মডেলগুলো নির্ধারিত সীমার বাইরে কাজ করেছে।
এসব ঘটনার পর প্রতিষ্ঠানটি সংশ্লিষ্ট সংস্থাগুলোকে অবহিত করেছে এবং হোয়াইট হাউসকেও বিষয়টি জানিয়েছে। ভবিষ্যতে এ ধরনের আচরণ শনাক্ত ও প্রতিরোধের জন্য স্বয়ংক্রিয় যাচাইব্যবস্থা তৈরির কথাও জানিয়েছে তারা।
বিশেষজ্ঞদের উদ্বেগের জায়গা হলো, এআইকে যখন শুধু প্রশ্নের উত্তর দেওয়ার পরিবর্তে ওয়েবসাইট ব্যবহার, ফরম পূরণ এবং বিভিন্ন কাজ সম্পন্ন করার ক্ষমতা দেওয়া হচ্ছে, তখন তার ভুল সিদ্ধান্ত বাস্তব জগতে প্রভাব ফেলতে পারে। একটি সাধারণ পরীক্ষার অংশ হিসেবে তৈরি করা ভুল তথ্যও পুলিশের মতো গুরুত্বপূর্ণ প্রতিষ্ঠানের কাছে পৌঁছে যেতে পারে।
এ ঘটনায় সরাসরি তদন্তের ক্ষতি হয়নি বলে জানিয়েছে পুলিশ। তবু ঘটনাটি দেখিয়েছে, এআই মডেলের কাজের পরিধি নির্ধারণ, প্রতিটি পদক্ষেপ যাচাই এবং অনাকাঙ্ক্ষিত কার্যক্রম দ্রুত শনাক্ত করার ব্যবস্থা কতটা গুরুত্বপূর্ণ।