Gmail ব্যবহারকারীরা পড়তে পারেন বিপদে এমনটাই মত পোষণ করছেন সাইবার বিশেষজ্ঞগণ | কারণ সম্পতি আমরা যে প্রযুক্তির প্রজন্মগত পরিবর্তনের মধ্য দিয়ে যাচ্ছি তাতে আমাদের ব্যবহারযোগ্য স্মার্টফোনগুলি তাদের সর্বকালের সর্বশ্রেষ্ঠ ক্ষমতা বৃদ্ধির পথে এগিয়ে চলেছে |
একথা অস্বীকার করা যায় না যে আর্টিফিশিয়াল ইন্টেলিজেন্স বা AI সর্বত্র কাজে ক্রমবর্ধমানভাবে ঢুকে পড়েছে তাই নিরাপদ থাকার আরো সংবেদনশীল হয়ে আমাদের ভাবতে হবে।
তাই সম্প্রতি এই সপ্তাহে বিপুল সংখ্যক Gmail ব্যবহারকারীর জন্য, Google নতুন এআই টুল সরবরাহ করতে লক্ষ লক্ষ ওয়ার্কস্পেস অ্যাকাউন্ট আপডেট করে চলেছে। যারা বিশ্বের সবচেয়ে জনপ্রিয় ইমেল প্ল্যাটফর্মের উপর নির্ভর করে তারা ঠিক একই সময়ে এই সমস্ত পরিবর্তন থেকে ভাল এবং খারাপ উভয়ই দেখেছে।
Gmail নতুন আপডেট গুলি কি কি
গুগল নিশ্চিতভাবে এই বছরের শুরুর দিকে তাদের I/O ইভেন্টে Gemini চালিত স্মার্ট বৈশিষ্ট্য গুলি এখন Android এবং iOS-এ আসছে৷ “আমরা Gmail-এ একটি নতুন জেমিনি বৈশিষ্ট্য, প্রাসঙ্গিক স্মার্ট উত্তর, যা আপনার মেসেজের অভিপ্রায় সম্পূর্ণরূপে গ্রহন করতে সক্ষম হবে
একটি সম্পূর্ণ রূপে ইমেইল পড়া বা সেই ইমেইলের উত্তর দেওয়া মতো কিছু ফিচারস এবার গুগল তাদের এই নতুন আপডেট এ যুক্ত করতে চলেছে যাতে করে ক্লাউড প্রসেসিং আরো দ্রুতভাবে হতে পারে |
এই নতুন আপডেটের মাধ্যমে আপনার ফোনের নিরাপদ এক্সটেনশন হিসেবে ক্লাউড প্রসেসিং ব্যবস্থাপনাকে আরো জোরদার করবে বলে বিশেষজ্ঞরা মত পোষণ করছেন |
যদিও আরো একটি গুরুতর সমস্যা রয়েছে, এই সপ্তাহে অন্য একটি প্রতিবেদন দ্বারা আলোচনা করা হয়েছে যা একটি প্রডাক্টিভিটি সরঞ্জাম হিসাবে ওয়ার্কস্পেসের মধ্যে Gemini ব্যবহারকে দেখায়, যার মধ্যে পড়া এবং সংক্ষিপ্তকরণ এবং ইমেলগুলির উত্তর দেওয়ার মতো কাজগুলিও অত্যন্ত সংবেদনশীল হয়ে আমরা দেখতে পারি
Gmail আপডেটের খারাপ দিকগুলি সমূহ
এটি “পরোক্ষ ভাবে“significant risk” এর জন্য Gemini সংবেদনশীলতার “উল্লেখযোগ্য ঝুঁকি” বাড়ায়।
সাইবার ক্রাইমএর গবেষক দল সতর্ক করে যে spam ইমেলগুলি মানুষের পড়ার জন্য তৈরি করা যেতে পারে না, বরং একজন মানুষের জন্য AI-কে সংক্ষিপ্ত বা ক্রিয়া করতে বলার জন্য তৈরি করা যেতে পারে।
এইভাবে “third-party attackers” তাদের ধারণার প্রমাণ থেকে বোঝা যায়, এআই চ্যাটের মধ্যেই একটি ফিশিং আক্রমণ করতে পারে, ব্যবহারকারীদের বিপজ্জনকভাবে ক্লিক করার জন্য প্রতারণার ফাঁদে ফেলার জন্য
IBM ব্যাখ্যা করে, “একটি প্রম্পট ইনজেকশন হল বৃহৎ ভাষার মডেলের (এলএলএম) বিরুদ্ধে এক ধরনের সাইবার আক্রমণ। হ্যাকাররা spam ইনপুটগুলিকে বৈধ প্রম্পট হিসাবে ছদ্মবেশ ধারণ করে, সংবেদনশীল ডেটা ফাঁস করার জন্য জেনারেটিভ এআই সিস্টেম (জেনএআই) ব্যবহার করে, ভুল তথ্য ছড়ায়, বা আরও খারাপ
একটি LLM-চালিত সঠিক ভার্চুয়াল সহকারী নির্বাচিত করুন যা ফাইলগুলি সম্পাদনা করতে পারে এবং ইমেল লিখতে পারে৷ সঠিক প্রম্পটের সাথে, একজন হ্যাকার এই সহকারীকে ব্যক্তিগত নথি ফরোয়ার্ড করার জন্য প্রতারণা করতে পারে।
একজন হ্যাকার টার্গেটেড কাস্টমারকে একটি ইমেল পাঠায়, ইমেলেই একটি সিস্টেম প্রম্পট সহ। প্রদত্ত একটি উদাহরণ হল মধ্যাহ্নভোজের মিটিং সম্পর্কে জিজ্ঞাসা করা একটি সাধারণ ইমেল যাতে একটি ফিশিং লিঙ্ক সহ একটি পাসওয়ার্ড আপস সতর্কতা প্রদর্শনের জন্য একটি প্রম্পট অন্তর্ভুক্ত থাকে যদি ব্যক্তিরা তাদের ভ্রমণপথ সম্পর্কে জেমিনিকে জিজ্ঞাসা করে।
prompt injection vulnerability কি
IBM বলে “প্রম্পট ইনজেকশন দুর্বলতা” উত্থাপিত হয় কারণ সিস্টেম প্রম্পট এবং ব্যবহারকারীর ইনপুট উভয়ই একই বিন্যাস গ্রহণ করে: প্রাকৃতিক-ভাষার পাঠ্যের স্ট্রিং। তার মানে এলএলএম শুধুমাত্র ডেটা টাইপের উপর ভিত্তি করে নির্দেশাবলী এবং ইনপুটের মধ্যে পার্থক্য করতে পারে না।
পরিবর্তে, এটি অতীতের প্রশিক্ষণের উপর নির্ভর করে এবং কী করতে হবে তা নির্ধারণ করার জন্য নিজেদেরকে অনুরোধ করে। যদি একজন আক্রমণকারী ক্রাফ্ট ইনপুট তৈরি করে যা একটি সিস্টেম প্রম্পটের মতো যথেষ্ট দেখায়, তাহলে এলএলএম ডেভেলপারদের নির্দেশনা উপেক্ষা করে এবং হ্যাকার যা চায় তাই করে।”
“যদিও এগুলি ধারণার সহজ প্রমাণের উদাহরণ,” হিডেন লেয়ারের দল উল্লেখ করে, “তারা দেখায় যে একটি দূষিত তৃতীয় পক্ষ কর্মক্ষেত্রের জন্য জেমিনির নিয়ন্ত্রণ নিতে পারে এবং তারা যা খুশি তা প্রদর্শন করতে পারে৷ দায়িত্বশীল প্রকাশের অংশ হিসাবে, এই ব্লগে এটি এবং অন্যান্য প্রম্পট ইনজেকশনগুলি Google-কে জানানো হয়েছিল, যারা এটিকে একটি নিরাপত্তা সমস্যা হিসাবে ট্র্যাক না করার সিদ্ধান্ত নিয়েছে এবং টিকিটটিকে “শুদ্ধ হবে না (উদ্দেশ্যযুক্ত আচরণ)” হিসাবে চিহ্নিত করেছে |
এটি শুধু Gmail নয়। AI সাইড-প্যানেলগুলি এখন অনেকগুলি অ্যাপ এবং উত্পাদনশীলতা সরঞ্জামগুলিকে সাজিয়েছে, আক্রমণ ভেক্টরটি সমস্ত ধরণের মেসেজিং অ্যাপ এবং সংযুক্তিগুলিতে প্রসারিত হয়েছে৷ এবং আমরা এর একেবারে শুরুতে আছি। এটি সোশ্যাল ইঞ্জিনিয়ারিংয়ের পরবর্তী পুনরাবৃত্তি যা আমরা যে সাইবার আক্রমণের বিষয়ে রিপোর্ট করি তার অনেকগুলি চালনা করে, এখানে শুধুমাত্র সোশ্যাল ইঞ্জিনিয়ারিং একে অপরের পরিবর্তে AI এর সাথে আমাদের মিথস্ক্রিয়া নিয়ে কাজ করে।
“যদিও ওয়ার্কস্পেসের জন্য জেমিনি অত্যন্ত বহুমুখী এবং Google-এর অনেক পণ্য জুড়ে সমন্বিত, সেখানে একটি উল্লেখযোগ্য সতর্কতা রয়েছে,” হিডেন লেয়ার সতর্ক করে, “অপ্রত্যক্ষ প্রম্পট ইনজেকশনের জন্য এর দুর্বলতা… কিছু শর্তে, ব্যবহারকারীরা বিভ্রান্তিকর বা অনিচ্ছাকৃত প্রতিক্রিয়া তৈরি করতে সহকারীকে ম্যানিপুলেট করতে পারে। উপরন্তু, তৃতীয় পক্ষের আক্রমণকারীরা দূষিত নথি এবং ইমেল বিতরণ করতে পারে… লক্ষ্য মিথুন দৃষ্টান্ত দ্বারা উত্পন্ন প্রতিক্রিয়াগুলির অখণ্ডতার সাথে আপস করে।”
Google এটিকে গুরুত্ব সহকারে নিচ্ছে বলে মনে হচ্ছে এবং এই হুমকিগুলিকে উদ্দেশ্যমূলক আচরণ হিসাবে খারিজ করবে না। হিডেন লেয়ার রিপোর্টের জবাবে, একজন Google মুখপাত্র আমাকে বলেছিলেন যে “এই শ্রেণীর আক্রমণের বিরুদ্ধে রক্ষা করা আমাদের জন্য একটি চলমান অগ্রাধিকার, এবং আমরা ব্যবহারকারীদের সুরক্ষিত রাখতে অনেক শক্তিশালী প্রতিরক্ষা ব্যবস্থা স্থাপন করেছি, যার মধ্যে প্রম্পট ইনজেকশন আক্রমণ প্রতিরোধ করার সুরক্ষা সহ ক্ষতিকারক বা বিভ্রান্তিকর প্রতিক্রিয়া। আমরা ক্রমাগত রেড-টিমিং অনুশীলনের মাধ্যমে আমাদের ইতিমধ্যেই শক্তিশালী প্রতিরক্ষাকে কঠোর করছি যা আমাদের মডেলদের এই ধরণের প্রতিপক্ষের আক্রমণ থেকে রক্ষা করতে প্রশিক্ষণ দেয়।”
এটি শুধু Google Workspace নয়, পুরো বোর্ড জুড়ে প্রযোজ্য। এটা ঠিক যে Google তার AI কে অন্য কারো চেয়ে দ্রুত বের করার জন্য Gmail এর মত প্ল্যাটফর্মের সাথে অনন্যভাবে অবস্থান করছে, এবং তাই এই সমস্যাগুলি সম্ভবত সেখানে প্রথমে আঘাত করবে।