Deepfakes & AI imagesडीपफ़ेक और एआई तस्वीरें
From noise to picture, and how to stay sharpशोर से तस्वीर तक, और सतर्क कैसे रहें
From noise to picture
An image generator starts with random static and removes a little noise at each step, guided by the prompt (“sunrise over hills”), until an image appears.
Summaryसारांश
Most image generators are diffusion models. They learn by adding random noise to millions of pictures and practising how to remove it. To make a new image, they start from pure noise and remove it step by step, guided by your text prompt, until a picture appears. Similar methods can swap faces in videos or copy voices: these fakes are called deepfakes.ज़्यादातर इमेज जनरेटर डिफ़्यूज़न मॉडल होते हैं। ये लाखों तस्वीरों में बेतरतीब शोर (नॉइज़) मिलाकर उसे हटाने का अभ्यास करके सीखते हैं। नई तस्वीर बनाने के लिए ये पूरे शोर से शुरू करते हैं और आपके टेक्स्ट प्रॉम्प्ट के हिसाब से उसे क़दम-दर-क़दम हटाते हैं, जब तक तस्वीर न बन जाए। इसी तरह के तरीक़ों से वीडियो में चेहरे बदले या आवाज़ें नक़ल की जा सकती हैं: इन्हें डीपफ़ेक कहते हैं।
Visual clues such as odd hands, garbled text, mismatched earrings, strange shadows or lips out of sync can help, but good fakes may show none of them. The stronger habit is to check the source: who posted it first, is it reported by trusted news outlets, does the original account exist? Report suspected fraud calls and messages on Sanchar Saathi (Chakshu), and cyber crimes on cybercrime.gov.in or the 1930 helpline.अजीब हाथ, बिगड़े अक्षर, बेमेल झुमके, अजीब परछाइयाँ या होंठों का आवाज़ से मेल न खाना जैसे सुराग़ मदद कर सकते हैं, पर अच्छे डीपफ़ेक में इनमें से कुछ भी न दिखे, ऐसा हो सकता है। बेहतर आदत है स्रोत जाँचना: सबसे पहले किसने पोस्ट किया, क्या भरोसेमंद समाचार संस्थानों ने इसकी ख़बर दी, क्या मूल अकाउंट मौजूद है? संदिग्ध धोखाधड़ी वाले कॉल और मैसेज की शिकायत संचार साथी (चक्षु) पर, और साइबर अपराध की शिकायत cybercrime.gov.in या 1930 हेल्पलाइन पर करें।