কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে সম্মতি ছাড়া যৌন ছবি তৈরি ও ছড়িয়ে দেওয়ার ঝুঁকি মোকাবিলায় অ্যাপ স্টোরে অ্যাপ নির্মাতাদের জন্য নতুন নিয়মের কথা উঠে এসেছে । প্রতিবেদনের শিরোনাম অনুযায়ী, অ্যাপ নির্মাতাদের এ ধরনের ছবি তৈরি ঠেকাতে সক্রিয় ব্যবস্থা নিতে এবং শনাক্ত হওয়া কনটেন্ট সরিয়ে দিতে হবে। তবে মূল প্রতিবেদনের পূর্ণ বিবরণ ও সংশ্লিষ্ট প্ল্যাটফর্মের আনুষ্ঠানিক নীতিপত্র যাচাই করা না যাওয়ায় নিয়মটির সুনির্দিষ্ট কার্যকর তারিখ, প্রয়োগের আওতা এবং ব্যতিক্রম সম্পর্কে নিশ্চিত তথ্য দেওয়া যাচ্ছে না। 

জেনারেটিভ এআইয়ের উন্নতির ফলে সাধারণ ব্যবহারকারীর পক্ষেও ছবি, ভিডিও এবং অডিও তৈরি করা সহজ হয়েছে। এই প্রযুক্তি বিজ্ঞাপন, বিনোদন, শিক্ষা এবং সৃজনশীল কাজে ব্যবহার করা যায়। কিন্তু একই সরঞ্জাম দিয়ে বাস্তব ব্যক্তির মুখ অন্য ছবিতে বসানো, কাল্পনিক দৃশ্যকে বাস্তবের মতো দেখানো কিংবা সম্মতি ছাড়া যৌনধর্মী ছবি তৈরির অপব্যবহারও হতে পারে। কোনো ছবি বাস্তব না হলেও তা সামাজিক, মানসিক ও পেশাগত ক্ষতির কারণ হতে পারে।

এ ধরনের কনটেন্টের একটি বড় সমস্যা হলো, ভুক্তভোগীর অনুমতি ছাড়াই তাঁর পরিচয় ব্যবহার করা হতে পারে। পরিচিত ব্যক্তির মুখ অন্য শরীরে বসিয়ে ভুয়া ছবি তৈরি করলে সেটি অনলাইনে দ্রুত ছড়িয়ে পড়তে পারে। একবার বিভিন্ন সাইটে কপি হয়ে গেলে মূল কনটেন্ট সরিয়ে দেওয়ার পরও অন্য কপি থেকে যেতে পারে। তাই শুধু প্রকাশের পরে ছবি সরানো নয়, তৈরি ও আপলোডের পর্যায়েও প্রতিরোধমূলক ব্যবস্থা প্রয়োজন।

অ্যাপ নির্মাতাদের সম্ভাব্য দায়িত্বের মধ্যে থাকতে পারে ব্যবহারকারীর অনুরোধ যাচাই, পরিচিত অপব্যবহারের ধরন শনাক্ত, ঝুঁকিপূর্ণ অনুরোধ প্রত্যাখ্যান, অভিযোগ জানানোর সহজ ব্যবস্থা এবং ক্ষতিকর কনটেন্ট দ্রুত পর্যালোচনা করা। তবে কোন পদ্ধতি বাধ্যতামূলক হবে, তা সংশ্লিষ্ট নীতির ভাষা ও আইনগত পরিধির ওপর নির্ভর করবে। সব ধরনের ছবি তৈরি বন্ধ করা এবং সম্মতি ছাড়া যৌন ছবি তৈরির মতো ক্ষতিকর কাজ লক্ষ্যভিত্তিকভাবে প্রতিরোধ করা এক বিষয় নয়।

এআই দিয়ে তৈরি ছবির ক্ষেত্রে আরেকটি জটিলতা হলো শনাক্তকরণের নির্ভুলতা। স্বয়ংক্রিয় শনাক্তকরণ ব্যবস্থা কখনো বৈধ ছবি ভুলভাবে চিহ্নিত করতে পারে, আবার উন্নত সম্পাদনার কারণে ক্ষতিকর ছবি শনাক্ত করতেও ব্যর্থ হতে পারে। ফলে প্রযুক্তিগত ফিল্টারের পাশাপাশি মানুষের পর্যালোচনা, অভিযোগের ভিত্তিতে দ্রুত পদক্ষেপ এবং ভুল সিদ্ধান্তের বিরুদ্ধে আপিলের ব্যবস্থা গুরুত্বপূর্ণ।

বাংলাদেশেও সামাজিক যোগাযোগমাধ্যমে ভুয়া ছবি, পরিচয় জালিয়াতি এবং অনলাইন হয়রানির ঝুঁকি নিয়ে সচেতনতা প্রয়োজন। ভুক্তভোগীদের অভিযোগ জানানোর নিরাপদ ব্যবস্থা, ডিজিটাল প্রমাণ সংরক্ষণ, প্ল্যাটফর্মের সঙ্গে কার্যকর যোগাযোগ এবং আইনগত সহায়তার পথ স্পষ্ট থাকা দরকার। স্কুল, কলেজ ও বিশ্ববিদ্যালয় পর্যায়ে ডিজিটাল নিরাপত্তা সম্পর্কে শিক্ষা দিলে তরুণ ব্যবহারকারীরা ঝুঁকি সম্পর্কে আরও সচেতন হতে পারেন।

ব্যবহারকারীদেরও মনে রাখা প্রয়োজন, কোনো ছবি বাস্তব মনে হলেই তা সত্য—এমন নয়। বিশেষ করে যৌনধর্মী বা মানহানিকর কনটেন্ট যাচাই ছাড়া শেয়ার করা ভুক্তভোগীর ক্ষতি বাড়াতে পারে। সন্দেহজনক কনটেন্টের ক্ষেত্রে প্ল্যাটফর্মে রিপোর্ট করা এবং সংশ্লিষ্ট ব্যক্তির গোপনীয়তা রক্ষা করা গুরুত্বপূর্ণ।

এ ধরনের নীতির সাফল্য নির্ভর করবে বাস্তবায়নের কার্যকারিতা, অভিযোগ নিষ্পত্তির গতি এবং অপব্যবহার প্রতিরোধে প্ল্যাটফর্মগুলোর দায়িত্ব পালনের ওপর। তবে মূল ঘোষণার বিস্তারিত যাচাই না হওয়া পর্যন্ত এটিকে নির্দিষ্ট সব অ্যাপ স্টোরে কার্যকর হয়ে যাওয়া পূর্ণাঙ্গ নতুন আইন হিসেবে উপস্থাপন করা যাবে না।