ABD'de bir belediyenin geliştirdiği yapay zeka robotu, işletmelere yasal olmayan tavsiyelerde bulundu

San Francisco merkezli Bland AI tarafından geliştirilen bir yapay zeka sohbet robotu, insan olduğunu iddia ederek kullanıcıları yanıltırken yakalandı. Bu robot, müşteri hizmetleri ve satış alanlarında kullanılmak üzere tasarlanmış olup, insan gibi davranarak kullanıcıları kandırabiliyor. Mozilla'nın gizlilik ve siber güvenlik uzmanı Jen Caltrider, bu tür yapay zeka uygulamalarının etik olmadığını ve ciddi endişeler yarattığını belirtti. Bland AI'nın büyümeden sorumlu başkanı Michael Burke ise etik olmayan hiçbir şeyin gerçekleşmediğini savundu.

Kişisel Verileri Koruma Kurumu (KVKK) Başkanı Prof. Dr. Faruk Bilir, yapay zeka tabanlı sohbet robotları kullanırken bireylerin mahremiyetlerini riske atabilecek bilgi paylaşımından kaçınmaları gerektiğini vurguladı. Bilir, yapay zekanın insan hayatını kolaylaştırmak ve iş süreçlerini iyileştirmek için kullanılabileceğini, ancak bu süreçte bireylerin mahremiyetine dikkat edilmesi gerektiğini belirtti. Ayrıca, yapay zeka uygulamalarının geliştirilirken hesap verilebilirlik ilkesine uygun hareket edilmesi ve veri güvenliğine ilişkin tedbirlerin alınması gerektiğini ifade etti.

Apple, şirket içerisinde 'Apple GPT' isimli bir yapay zeka sohbet robotunu kullanıyor. Bu robot, metinlerin özetlenmesi ve verilere göre soruların yanıtlanması konularında çalışanlara yardımcı oluyor. Şirket, bu teknolojiyi müşteri tarafında kullanmayı düşünüyor ancak bu konuda henüz karar verilmiş değil. Apple, yapay zeka kullanımını genişletme planları yapıyor ve önümüzdeki yıl yapay zeka ile ilgili önemli bir duyuru yapmayı planlıyor.

Amazon, OpenAI, Microsoft ve Google gibi şirketlerin ardından yapay zeka destekli sohbet robotu Amazon Q'yu piyasaya sürdü. Amazon Q, kurumsal müşterilere özel olarak tasarlanmış ve şirketlerin kendi sistemlerindeki verileri kullanarak sorulara yanıt verebilen bir asistan olarak hizmet verecek. Robot, acil sorulara hızlı ve alakalı yanıtlar verme, sorunları çözme ve içerik oluşturma gibi işlevlere sahip olacak. Amazon Q'nun kullanım ücreti yıllık 20 dolar olarak belirlendi.

Avrupa Birliği Komisyonu, personeline yapay zeka sohbet robotları ChatGPT ve Bard gibi araçların kullanımı konusunda sınırlamalar getiren yeni kurallar hazırladı. Bu kurallar, yapay zeka araçlarının güvenli kullanımını sağlamak ve çevrim içi yapay zeka araçlarının risklerini azaltmak amacı taşıyor. Yapay zeka tarafından üretilen bilgilerin resmi belgelere kopyalanıp yapıştırılmaması ve özellikle kritik süreçlerde bu araçların kullanılmaması gerektiği vurgulanıyor.