Midjourney süni intellektlə şəkilləri redaktə etməyə icazə verməyi planlaşdırır

Midjourney süni intellektlə şəkilləri redaktə etməyə icazə verməyi planlaşdırır

Midjourney istifadəçilərə generativ süni intellektdən istifadə edərək yüklənmiş şəkilləri redaktə etməyə imkan verəcək təkmilləşdirilmiş veb aləti buraxmağa hazırlaşır. CEO David Holtz-un dediyinə görə, "gələn həftənin əvvəlində" istifadəyə verilməsi gözlənilən yeni alət istifadəçilərə təqdim olunan başlıqlara əsaslanaraq onların rənglərini və detallarını "yenidən rəngləyərək" şəkillərdəki obyektləri təkrar tekstura etməyə imkan verəcək.

Bu cür redaktə vasitələrinin buraxılması potensial sui-istifadə halları, xüsusən də aldadıcı dərin saxtakarlıqların yaradılması ilə bağlı narahatlıq yaradır. Deepfake aşkarlama şirkəti olan Clarity ilə bu il keçən ilə müqayisədə 900% artım bildirən Deepfakes getdikcə daha çox yayılmışdır. Buna cavab olaraq, ABŞ-ın 10-dan çox ştatı süni intellektə əsaslanan təqlidlərin aradan qaldırılması üçün qaydalar qəbul etdi, baxmayaraq ki, dərin saxtakarlığa qarşı federal qanunlar hələ də yoxdur.

Midjourney ABŞ prezident seçkiləri ərəfəsində siyasi xadimlər üçün filtrlər tətbiq etməklə dərin saxtakarlıqların yayılmasını azaltmaq üçün səy göstərdi. Tənqid və hüquqi problemlərlə, məsələn, AI modellərini öyrətmək üçün müəllif hüquqları ilə qorunan məzmundan istifadə iddiaları ilə üzləşməsinə baxmayaraq, platforma öz icması üçün yeni funksiyalar irəli sürməyə davam edir.

Yeni alət ilkin olaraq sui-istifadənin qarşısını almaq üçün əlavə insan və AI moderasiyası ilə "cari icmanın alt qrupu" üçün əlçatan olacaq. Holtz, xüsusiyyətin mövcudluğuna dair məhdudiyyətlərin müəyyən edilməsinin çətin olduğunu etiraf etdi və Midjourney hazırda onu necə yaymaq barədə qərar vermək üçün istifadəçilərdən rəy axtarır.

Süni intellekt ilə təsvirin redaktə edilməsi son vaxtlar müzakirələrə səbəb olub, xüsusən də süni intellekt tərəfindən düzəldilmiş şəkillərin tamamilə süni intellekt tərəfindən yaradılanlara qarşı düzgün etiketlənməsi ilə bağlı. Meta və Google kimi şirkətlər bu problemlə mübarizə apardılar, lakin Midjourney şəkilləri AI tərəfindən yaradılan kimi qeyd etmək üçün metadata standartlarından istifadə edərək irəliləyişlər etdi. Bununla belə, o, C2PA kimi təsvirin bütün yaranma tarixini izləyən texnologiyaları hələ qəbul etməyib.