fbpx

Yapay Zeka “BİLMİYORUM” Demeyi Öğreniyor

Gönderen Fatma Ebrar Tuncel
3 dk Okuma Süresi
  • ASPIRE, tahmin yerine dürüstlüğü teşvik ederek yapay zeka etkileşimlerini daha güvenilir hale getirmeye hazırlanıyor.
  • Google araştırmacıları yapay zekaya “bilmiyorum” demeyi öğreterek yapay zeka dünyasını sarsıyor.
  • ASPIRE olarak adlandırılan bu yeni yaklaşım, bir cevaptan emin olmadığında yapay zekayı şüphe duymaya teşvik ederek dijital yardımcılarımızla etkileşim şeklimizde devrim yaratmayı planlıyor.

Google araştırmacıları yapay zekaya “bilmiyorum” demeyi öğreterek yapay zeka dünyasını sarsıyor. ASPIRE olarak adlandırılan bu yeni yaklaşım, bir cevaptan emin olmadığında yapay zekayı şüphe duymaya teşvik ederek dijital yardımcılarımızla etkileşim şeklimizde devrim yaratmayı planlıyor. EMNLP 2023 konferansında sergilenen yenilik, tamamen yapay zeka yanıtlarına “özen” duygusu aşılamakla ilgili. Açılımı “LLM’lerde Seçici Tahmini Geliştirmek için Öz Değerlendirme ile Adaptasyon” olan ASPIRE, yapay zeka için yerleşik bir güven ölçer gibi hareket ederek, cevaplarını sunmadan önce yapay zekanın kendi cevaplarını değerlendirmesine yardımcı oluyor.

Akıllı telefonunuzdan bir sağlık sorunu hakkında tavsiye istediğinizde ASPIRE sayesinde yapay zeka yanlış olabilecek bir cevap vermek yerine “Emin değilim” şeklinde yanıt verebilir. Bu sistem, yapay zekayı yanıtlarına bir güven puanı atayacak şekilde eğiterek yanıtına ne kadar güvenmemiz gerektiğini bize gösteriyor. Google’dan Jiefeng Chen ve Jinsung Yoon’un da aralarında bulunduğu ekip, daha güvenilir dijital karar alma süreçlerine doğru bir geçişin öncülüğünü yapıyor. Geliştirici ekip, yapay zekanın, özellikle de kritik bilgiler söz konusu olduğunda, sınırlarını bilmesinin ve bunları açıkça ifade etmesinin çok önemli olduğunu savunuyor.

image1
AI, ilk ipucu ile sorunun cevabını oluşturuyor ve ardından ikinci ipucu ile öğrenilen öz değerlendirme puanını hesaplıyor.

Wisconsin-Madison Üniversitesinde araştırmacı olan ve makalenin ortak yazarı Chen, “LLM’ler artık dili daha önce görülmemiş düzeyde anlayabiliyor ve üretebiliyor ancak yüksek riskli uygulamalarda kullanımları sınırlı çünkü bazen sahip oldukları yüksek güvenle hata yapabiliyorlar.” dedi. Ekibin araştırmaları, ASPIRE ile donatılmış daha küçük yapay zeka modellerinin bile bu iç gözlem özelliğinden yoksun olan daha büyük modelleri geçebileceğini gösteriyor. Bu sistem esasen, bir insanın cevap vermek için daha uygun olabileceğini kabul eden daha güvenilir bir yapa yapay zeka yaratıyor.

ASPIRE, tahmin yerine dürüstlüğü teşvik ederek yapay zeka etkileşimlerini daha güvenilir hale getirmeye hazırlanıyor. ASPIRE, yapay zeka asistanınızın her şeyi bilen bir kâhin yerine düşünceli bir danışman olabileceği ve “bilmiyorum” demenin gelişmiş bir zekanın işareti olduğu mutlak geleceğin yolunu açıyor.

Derleyen: Fatma Ebrar Tuncel

fatmaebrar fotograf1
Fatma Ebrar Tuncel

Türk Dili ve Edebiyatı bölümünden mezun. Yazmayı, okumayı ve üretmeyi seven bir genç. Dijitalsiz olamayan bu çağda kendi potansiyelinin peşine düşen bir izci. Bu iz sırasında faydalanabileceği imkanlardan kaçmaktansa onlarla yüzleşmeyi seçti. Ebrar'ın dijitaliyidir için sloganı "Dijital, sonsuz imkanlar denizinde potansiyelini keşfetmek ve arkasından gitmek için iyidir." oldu.

Bu içeriği paylaş
Gönderen Fatma Ebrar Tuncel
Takip et:
Türk Dili ve Edebiyatı bölümünden mezun. Yazmayı, okumayı ve üretmeyi seven bir genç. Dijitalsiz olamayan bu çağda kendi potansiyelinin peşine düşen bir izci. Bu iz sırasında faydalanabileceği imkanlardan kaçmaktansa onlarla yüzleşmeyi seçti. Ebrar'ın dijitaliyidir için sloganı "Dijital, sonsuz imkanlar denizinde potansiyelini keşfetmek ve arkasından gitmek için iyidir." oldu.
Yorum yaz