برچسب گذاری تصاویری که با هوش مصنوعی در فیسبوک، اینستاگرام و تردز تولید شده‌اند

دنیای هوش مصنوعی، بیش از هرچیز بر روی تولید تصاویر اثر گذاشته است. هوش مصنوعی‌های مختلفی هم برای آن ایجاد شده است. بسیاری از شرکت‌ها از جمله متا نیز برای شبکه‌های اجتماعی خود از هوش مصنوعی استفاده کرده تا کاربرانش با آن تصاویر تولید کنند. اما مرز بین محتواهای هوش مصنوعی و انسانی در حال محو شدن است. به همین دلیل متا می‌خواهد تصاویری که با هوش مصنوعی در فیسبوک، اینستاگرام و تردز تولید شده‌اند را برچسب گذاری کند. در ادامه بیشتر در مورد این موضوع صحبت خواهیم کرد.

تصاویر در متا تگ گذاری می‌شوند

بیش از یک میلیارد نفر در شبکه‌های اجتماعی شرکت متا یعنی فیسبوک، اینستاگرام و تردز فعالیت داشته و عضو هستند. با ظهور هوش مصنوعی، متا نیز هوش مصنوعی خود را تحت عنوان Meta AI روانه بازار کرده و در شبکه‌های اجتماعی‌‌اش در دسترس کاربران قرار داد.

اما وجود تصاویر واقع‌گرایانه و از بین رفتن مرز بین خیال و واقعیت، کاربران را نگران کرده و آن‌ها را خواستار ایجاد تغییرات برای تشخیص تصاویر واقعی از هوش مصنوعی کرده است.
به همین دلیل است که متا و شرکای صنعتی که دارد، از هفته‌های آینده تغییراتی را اعمال می‌کنند که طی آن، تصاویر واقع‌گرایانه‌ای که با هوش مصنوعی ایجاد شده‌اند با برچسب "Imagined with AI" تگ‌گذاری می‌شوند.

این تگ‌گذاری در تمامی تصاویر شبکه‌های اجتماعی زیرمجموعه متا یعنی تردز، اینستاگرام و فیسبوک اعمال می‌شود و به شفافیت بیشتر رفتار کاربران در این فضا کمک می‌کند.

رویکرد جدید برای شناسایی و برچسب‌گذاری محتواهای ساخته شده با هوش‌ مصنوعی

از این پس، تصاویری که با استفاده از هوش مصنوعی Meta AI ایجاد می‌شوند، شرکت متا، چندین کار انجام می‌دهد تا مشخص کند این تصویر با هوش مصنوعی ایجاد شده است.

اولین کار این است که یک واتر مارک قابل دید بر روی تصاویر زده می‌شود تا نشان دهد عکس توسط هوش مصنوعی ایجاد شده است. این واترمارک هم به کاربران و هم به سایر پلتفرم‌ها کمک می‌کند تا این نوع عکس‌ها را شناسایی کنند. این بخش مهمی از رویکرد مسئولانه‌ای است که شرکت متا برای تصاویر تولید شده توسط هوش مصنوعی در پیش گرفته است.

تمامی تصاویری که از این پس با هوش مصنوعی متا تولید می‌شوند، یک کد نامرئی در شبکه‌های اجتماعی و دنیای اینترنت دارند که نشان از ساخته و پرداخته بودن عکس توسط هوش مصنوعی است.

این تصاویر با هر هوش مصنوعی دیگری هم درست شده باشند، توسط شرکت متا قابل تشخیص بوده کاربران می‌توانند با خیال راحت از این پس تصاویر واقعی و غیر واقعی را از هم تشخیص دهند.

در حالی که متا در تلاش است که تصاویری که کاربران ساخته‌اند از تصاویری که هوش مصنوعی ساخته جدا کند، هنوز امکانی برای شناسایی فیلم‌ها و صداها نیست و این نگرانی وجود دارد که فیلم‌ها و صداهایی که با هوش مصنوعی ساخته شده‌اند، کاربران را گمراه کنند. از این رو از کاربران می‌خواهند به صورت مسئولانه خودشان آن‌ها را شناسایی و برچسب‌گذاری کنند.
در صورتی که تصویر یا صدای ایجاد شده با هوش مصنوعی در تلاش برای فریب مردم و افکار عمومی باشد، اگر برچسب گذاری نشوند و توسط شرکت متا شناسایی شود، حذف خواهد شد.

متا عمیقا امیدوار است هرچه زودتر مکانیزم واترمارک قابل دید هوش مصنوعی را فعال کرده و هرچه زودتر آن را به منبع با ارزشی برای شناسایی تصاویر واقعی و خیالی تبدیل کند.

این تلاش‌ها ادامه خواهد داشت و به شدت با افرادی که سعی دارند با تصاویری که با هوش مصنوعی تولید می‌کنند و مردم را فریب می‌دهند، در حال مبارزه است. قطعا تا انتهای سال جدید میلادی، این تلاش‌ها بین هر دو طرف خوب و بد افزایش می‌یابد. امیدواریم طرف خوب برنده شود.

هوش مصنوعی هم شمشیر و هم سپر است

بدون شک فناوری‌هایی مانند هوش مصنوعی مانند چاقوی دولبه عمل می‌کنند. در حالی که بعضی از ما روی لبه امن آن راه می‌رویم، افراد دیگری هم هستند از لبه تیز و خطرناک آن استفاده می‌کنند. بنابراین هم مانند شمشیر می‌توان برای حمله از آن استفاده کرد و هم می‌توان به عنوان سپری در مقابل حمله شمشیرها آن را به کار برد.

برای مثال خود شرکت متا سالیان زیادی است که از هوش مصنوعی برای شناسایی کلمات توهین‌آمیز، محتواهای جنسی و محتواهای تشویق به خودکشی استفاده می‌کند. در سه ماهه آخر سال 2023 این هوش مصنوعی توسعه پیدا کرده و حجم چنین پیام‌ها و پست‌هایی تا حد زیادی کاهش پیدا کرده است.

محتواهایی که در این زمینه تولید می‌شوند فورا حذف شده و برچسب‌گذاری می‌شوند تا کاربران در جریان علت نیز باشند. متا در این راه از شرکت‌های همراه خود نیز کمک گرفته است تا به درستی پست‌های نامناسب و خارج از استاندارد را شناسایی کند.

سخن آخر

هوش مصنوعی این روزها به چیزی فراتر از انتظار ما تبدیل شده است. گاهی مرز بین واقعیت و خیال کامل از بین رفته و نمی‌توان به سادگی تشخیص داد که چه چیزی توسط هوش مصنوعی ایجاد شده و چه چیزی کاملا واقعی است. شرکت متا یکی از مهم‌ترین چالش‌های خود را با هوش مصنوعی داشته و در تلاش است تا اجازه ندهد افراد سودجو، دیگران را با آن فریب دهند. در این راستا نیز اقداماتی انجام داده است که در این مطلب به طور کامل در مورد آن‌ها صحبت کردیم. امیدواریم این مطلب برایتان مفید بوده باشد.