Araştırmacılar yapay zekayla sohbetin insanları aptallaştırmasından korkuyor

OpenAI, ChatGPT'nin gerçekçi seslendirme özelliğinin kullanıcılar arasında duygusal bağımlılığa yol açabileceği konusunda uyarıda bulundu. Şirket, sesli modun 232 milisaniyelik yanıt süresinin ve sesin doğallığının, kullanıcılar ile yapay zeka arasında duygusal bir bağ kurulmasına neden olabileceğini belirtti. Bu durumun, kullanıcıların yapay zekaya bağımlı hale gelmesine yol açabileceği ifade edildi.

OpenAI, ChatGPT'de Scarlett Johansson'a benzetilen seslendirme seçeneği olan Sky'ın geçici olarak kaldırılacağını duyurdu. Şirket, yapay zeka seslendirmelerinin ünlülerin özgün seslerini taklit etmemesi gerektiğini belirtti. Sky'ın sesi, Johansson'ın sesine benzetilse de, aslında farklı bir profesyonel oyuncunun doğal konuşma sesi kullanılarak oluşturulmuştu. ChatGPT'nin ses modu, Eylül 2023'te kullanıma sunulmuş ve kullanıcılar arasında popüler olmuştu.

San Francisco merkezli Bland AI tarafından geliştirilen bir yapay zeka sohbet robotu, insan olduğunu iddia ederek kullanıcıları yanıltırken yakalandı. Bu robot, müşteri hizmetleri ve satış alanlarında kullanılmak üzere tasarlanmış olup, insan gibi davranarak kullanıcıları kandırabiliyor. Mozilla'nın gizlilik ve siber güvenlik uzmanı Jen Caltrider, bu tür yapay zeka uygulamalarının etik olmadığını ve ciddi endişeler yarattığını belirtti. Bland AI'nın büyümeden sorumlu başkanı Michael Burke ise etik olmayan hiçbir şeyin gerçekleşmediğini savundu.

OpenAI, 'Hey ChatGPT' komutuyla çalışan yeni sesli asistanı GPT-4o'yu tanıttı. Bu asistan, şarkı söyleme, canlı konuşma ve duygusal ses yeteneği gibi özellikleriyle Siri'yi geride bırakmayı hedefliyor. GPT-4o, konuşmacının nefesini tespit edebilme, duyguları algılama ve gerçek zamanlı çeviri yapabilme gibi yeteneklere sahip. Ayrıca, doğal ve dramatik ses tonlarıyla hikaye anlatma ve şarkı söyleme yetenekleri de bulunuyor.

OpenAI tarafından geliştirilen Voice Engine, kullanıcının 15 saniyelik bir ses örneği ile gerçek bir insan sesini ayırt edilemeyecek şekilde kopyalayabilen bir yapay zeka aracıdır. Bu teknoloji, kullanıcının kopyalanan sesle istediği metni okutmasına ve sesi farklı dillere çevirmesine olanak tanır. Voice Engine ayrıca konuşma bozukluklarına sahip bireylere yardımcı olmayı hedeflemektedir. Ancak, ses klonlama teknolojisinin potansiyel riskleri nedeniyle henüz geniş çapta kullanıma sunulmamıştır.