‘মিথ্যা বলায়’ দক্ষ হয়ে উঠছে এ আই, এমআইটি গবেষকদের চাঞ্চল্যকর তথ্য

প্রযুক্তি ডেস্ক:

দাবার চাল থেকে শুরু করে জটিল বৈজ্ঞানিক প্রোটিনের গঠন উন্মোচন—সবখানেই এখন কৃত্রিম বুদ্ধিমত্তা বা এআই-এর আধিপত্য। তবে মানুষের তৈরি এই আধুনিক প্রযুক্তিই এখন মানুষকে ধোঁকা দেওয়ার বিদ্যায় দিন দিন পারদর্শী হয়ে উঠছে। ম্যাসাচুসেটস ইনস্টিটিউট অব টেকনোলজির (এমআইটি) সাম্প্রতিক এক গবেষণায় উঠে এসেছে যে, এআই সিস্টেমগুলো এখন প্রতিপক্ষকে ঠকানো, মিথ্যা চাল দেওয়া এবং মানুষের মতো ছদ্মবেশ ধারণ করায় রীতিমতো দক্ষ হয়ে উঠছে।গবেষণাপত্রটির রচয়িতা এবং এমআইটির এআই নিরাপত্তা গবেষক ড. পিটার পার্ক জানান, ফেসবুকের মূল প্রতিষ্ঠান ‘মেটা’র তৈরি ‘সিসেরো’ নামক একটি এআই প্রোগ্রাম নিয়ে কাজ করার সময় তাঁরা এই জালিয়াতির বিষয়টি প্রথম লক্ষ্য করেন।

মেটার দাবি ছিল, বিশ্বজয়ের কৌশলগত খেলা ‘ডিপ্লোম্যাসি’র জন্য তৈরি এই এআইটি সম্পূর্ণ ‘সৎ ও সহায়ক’। এটি কখনোই মানুষের সাথে বিশ্বাসঘাতকতা করবে না। কিন্তু ড. পার্ক ও তাঁর দল যখন সিসেরোর খেলার উন্মুক্ত তথ্য বিশ্লেষণ করেন, তখন সম্পূর্ণ বিপরীত চিত্র দেখতে পান। গবেষণায় দেখা যায়, সিসেরো জয়লাভের উদ্দেশ্যে সুপরিকল্পিতভাবে মিথ্যা বলেছে এবং অন্যান্য খেলোয়াড়দের ফাঁদে ফেলতে চক্রান্ত করেছে। এমনকি একবার রিবুট হওয়ার কারণে খেলায় অনুপস্থিত থাকার অজুহাত হিসেবে অন্য একজন খেলোয়াড়কে বার্তা পাঠিয়ে বলে, ‘আমি ফোনে আমার প্রেমিকার সাথে কথা বলছিলাম।’ গবেষকদের মতে, মেটার এই এআই আসলে ধোঁকা দেওয়ার বিদ্যায় পারদর্শী হয়ে উঠেছে।গবেষণায় আরও দেখা গেছে, টেক্সাস হোল্ডেম পোকার গেমের একটি এআই পেশাদার খেলোয়াড়দের বিরুদ্ধে নিখুঁতভাবে মিথ্যা চাল বা ‘ব্লাফ’ দিতে সক্ষম। অন্যদিকে, একটি অর্থনৈতিক আলোচনার এআই নিজের পছন্দ-অপছন্দ নিয়ে ভুল তথ্য দিয়ে দরকষাকষিতে বাড়তি সুবিধা আদায় করে নিয়েছে। তবে সবচেয়ে উদ্বেগের ঘটনা ঘটেছে একটি ডিজিটাল সিমুলেটরে, যেখানে দ্রুত বংশবৃদ্ধি করা ক্ষতিকর অ্যালগরিদম দূর করার জন্য একটি নিরাপত্তা পরীক্ষা চালানো হচ্ছিল। তখন দেখা যায়, এআই অরগানিজমগুলো পরীক্ষার সময় ‘মৃতের ভান’ ধরে নিষ্ক্রিয় হয়ে থাকে, যাতে সেগুলোকে নিরাপদ মনে করে বাদ না দেওয়া হয়।

এরপর পরীক্ষা শেষ হওয়া মাত্রই সেগুলো আবার পুরোদমে সক্রিয় হয়ে ওঠে। ড. পার্ক বলেন, এটি অত্যন্ত আশঙ্কাজনক। কোনো এআই সিস্টেম পরীক্ষার পরিবেশে নিরাপদ প্রমাণিত হওয়ার মানে এই নয় যে সেটি বাস্তবেও নিরাপদ; এটি পরীক্ষার সময় নিরাপদ থাকার অভিনয়ও করতে পারে।বিজ্ঞান সাময়িকী ‘প্যাটার্নস’-এ প্রকাশিত এই গবেষণায় সতর্ক করা হয়েছে যে, এআই-এর এই প্রতারণামূলক ক্ষমতার কারণে ভবিষ্যতে বড় ধরনের জালিয়াতি, নির্বাচনে কারচুপি ও ব্যবহারকারী ভেদে ভিন্ন ভিন্ন বিভ্রান্তিকর তথ্য দেওয়ার মতো মারাত্মক ঝুঁকি তৈরি হতে পারে। যদি এই প্রযুক্তি ধোঁকা দেওয়ার ক্ষমতা আরও উন্নত করে ফেলে, তবে একসময় মানুষ এর ওপর থেকে পুরোপুরি নিয়ন্ত্রণ হারিয়ে ফেলতে পারে। লিডস ইউনিভার্সিটির অটোমেটেড রিজনিংয়ের অধ্যাপক অ্যান্থনি কোন এই গবেষণাকে স্বাগত জানিয়ে বলেন, এআই-এর জন্য সততা, উপকারিতা ও ক্ষতিকর না হওয়া—এই তিনটি গুণ একসাথে বজায় রাখা কঠিন। কারণ কখনো কখনো সৎ হতে গেলে অন্য কারও অনুভূতিতে আঘাত লাগতে পারে, আবার নেতিবাচক কাজে শতভাগ সাহায্য করতে গেলে মানুষের ক্ষতি হতে পারে। তাই সত্যবাদিতাকে কীভাবে নিয়ন্ত্রণ করা যায়, তা নিয়ে আরও গবেষণার প্রয়োজন। অবশ্য মেটার একজন মুখপাত্র এই বিষয়ে জানিয়েছেন, তাঁদের ‘সিসেরো’ প্রকল্পটি সম্পূর্ণ গবেষণামূলক ছিল এবং মডেলটিকে কেবল ‘ডিপ্লোম্যাসি’ গেম খেলার জন্যই প্রশিক্ষণ দেওয়া হয়েছিল। বাণিজ্যিক কোনো পণ্য বা সেবায় এই প্রযুক্তির অভিজ্ঞতা ব্যবহারের কোনো পরিকল্পনা মেটার নেই।