در سالهای اخیر، رشد سریع ابزارهای هوش مصنوعی که قادر به ساخت تصاویر و ویدئوهای بسیار واقعگرایانه هستند چالشی جدی برای کاربران، رسانهها و تولیدکنندگان محتوا ایجاد کرده است. این محتوای مصنوعی بهقدری پیشرفته شده که حتی چشم انسان هم نمیتواند بهراحتی تشخیص دهد آیا یک رسانه واقعی است یا توسط هوش مصنوعی تولید یا ویرایش شده است.
فهرست مطالب
پاسخ گوگل به بحران محتوای جعلی
برای پاسخ به این چالش و افزایش شفافیت درباره منشأ محتواهای بصری و ویدئویی، گوگل در اپلیکیشن خود یعنی جمنای ابزار جدیدی ارائه کرده است. با استفاده از این قابلیت، کاربران میتوانند به طور مستقیم در جمنای بررسی کنند که آیا یک عکس یا ویدیو توسط مدلهای هوش مصنوعی گوگل ایجاد یا ویرایش شده است یا خیر.
این فناوری بر اساس یک تکنیک به نام SynthID عمل میکند، نشانی دیجیتال نامرئی که هنگام ساخت یا ویرایش محتوا توسط هوش مصنوعی گوگل در دادههای تصویر یا ویدئو قرار میگیرد. سپس کاربر میتواند فایل موردنظر را در جمنای آپلود کند و با پرسیدن سؤالی مانند «آیا این تصویر/ویدیو توسط هوش مصنوعی گوگل تولید شده است؟»، پاسخ آن را دریافت کند.
این ویژگی نهتنها در مورد تصاویر کاربرد دارد، بلکه اخیراً برای ویدئوها نیز توسعهیافته است و میتواند بخشهایی از ویدئو که شامل آثار هوش مصنوعی هستند را مشخص کند.
SynthID چگونه محتوای هوش مصنوعی را شناسایی میکند؟
تکنیک SynthID یک فناوری پیشرفته است که توسط گوگل توسعه یافته و هدف آن شناسایی محتوای تولیدشده یا ویرایششده توسط هوش مصنوعی است. هنگام تولید تصاویر، ویدئوها یا فایلهای صوتی توسط مدلهای گوگل، این سیستم یک علامت دیجیتال نامرئی در محتوا جاسازی میکند. این علامت به گونهای طراحی شده که برای چشم یا گوش انسان قابل تشخیص نباشد، اما ابزارهای تخصصی مانند جمنای میتوانند آن را شناسایی کنند.
حتی بعد از تغییرات معمولی مانند برش، اعمال فیلتر، تغییر رنگ یا فشردهسازی، این نشان دیجیتال تا حد زیادی پایدار باقی میماند. در متنهای تولیدشده توسط هوش مصنوعی، SynthID با تنظیم الگوی آماری انتخاب کلمات هنگام تولید متن، یک امضای غیرقابل مشاهده ایجاد میکند. وقتی کاربر محتوا را برای بررسی ارسال میکند، ابزار تشخیص الگوی SynthID را اسکن میکند و مشخص میکند که آیا محتوا تولید شده با هوش مصنوعی است یا خیر.
این فناوری باعث میشود شفافیت محتوا افزایش یابد و کاربران، رسانهها و تولیدکنندگان محتوا بتوانند با اطمینان بیشتری محتوای واقعی و مصنوعی را از هم تمیز دهند.
نحوه بررسی عکس و ویدئو در جمنای و محدودیتها
گوگل برای پاسخ به این نیاز، در اپلیکیشن جمنای ویژگی جدیدی معرفی کرده است که به کاربران اجازه میدهد بررسی کنند یک تصویر یا ویدیو واقعاً انسانی است یا توسط هوش مصنوعی ساخته یا ویرایش شده است. این قابلیت بر اساس تکنولوژی SynthID عمل میکند؛ نشان دیجیتال نامرئی که هنگام تولید یا ویرایش محتوا توسط هوش مصنوعی گوگل در دادهها قرار میگیرد و به راحتی قابل شناسایی توسط جمنای است.
برای بررسی یک تصویر، مراحل زیر را دنبال کنید:
۱. اپلیکیشن جمنای را باز کنید.
۲. تصویر موردنظر خود را در اپ آپلود کنید.
۳. سوال خود را از جمنای بپرسید: «آیا این تصویر توسط هوش مصنوعی تولید شده است؟»
۴. ابزار بررسی میکند آیا SynthID در تصویر وجود دارد یا خیر و پاسخ را به شما نشان میدهد.
این فرآیند برای تصاویر سریع و ساده است و کاربران میتوانند به راحتی مشخص کنند که آیا تصویر موردنظر واقعی است یا تولید هوش مصنوعی گوگل.
ویژگی جدید جمنای نهتنها برای عکسها بلکه برای ویدیوها نیز توسعه یافته است.
نحوه استفاده به شکل زیر است:
۱. ویدیو را در جمنای آپلود کنید.
۲. سوال مشابهی مطرح کنید: «آیا این ویدیو توسط هوش مصنوعی گوگل ساخته یا ویرایش شده است؟»
۳. جمنای ویدیو را اسکن میکند و حتی میتواند مشخص کند کدام بخشها از ویدیو شامل آثار هوش مصنوعی هستند، مثل تغییرات در صحنه، جلوههای بصری یا صدا.
این قابلیت به کاربران کمک میکند تا بخشهای غیرواقعی و دستکاریشده در ویدیوها را شناسایی کنند و از انتشار اطلاعات نادرست جلوگیری شود.
ابزار فقط محتواهای تولیدشده یا ویرایششده توسط هوش مصنوعی گوگل را میتواند تشخیص دهد و محتوای ساختهشده توسط سایر شرکتها ممکن است شناسایی نشود. همچنین این ابزار محدودیتهایی در حجم و مدت زمان فایلها دارد و فعلاً برای ویدیوهای کوتاه و تصاویر استاندارد طراحی شده است. با این حال، استانداردهایی مانند C2PA در آینده میتوانند دامنه تشخیص محتوای هوش مصنوعی را گستردهتر کنند.
ویژگی تشخیص هوش مصنوعی در جمنای ابزاری کاربردی برای کاربران و رسانههاست تا بتوانند به سرعت و با دقت، محتوای واقعی و مصنوعی را از هم تفکیک کنند و از گمراه شدن در دنیای پر از محتوای هوش مصنوعی جلوگیری شود.
