NDC Oslo'daki düşündürücü bir tartışmada Luise Freese ve Iona Varga, özellikle kod oluşturma bağlamında yapay zeka (AI) modellerinin kullanımına ilişkin pratik ikilemleri derinlemesine incelediler. Yapay zeka, insan zekasını taklit etme konusunda önemli ilerlemeler kaydederken Freese ve Varga, yapay zekayı kod oluşturmak gibi belirli görevler için kullanırken pratiklik ve kalite arasında bir denge kurmanın önemini vurguladı.
Varga, yapay zekanın gerçek zeka hissini ima ettiği ilgi çekici kavrama dikkat çekti; ancak yapay zekanın özü, bu modellerin nasıl oluşturulduğunun temsilinde yatmaktadır. Yapay zeka, düğümleri birbirine bağlayarak insan beynindeki karmaşık nöron ve sinaps ağını kopyalamaya çalışıyor. Sinir ağını taklit etmeye yönelik bu çaba, "yapay ağlar" veya "yapay zeka" terimine yol açmaktadır. Ancak yapay zekanın pratikte insan beyninden oldukça farklı işlediğini unutmamak gerekiyor.
Freese, bilgisayarların temelde ikili biçimde çalışan transistörlere dayandığını, bunların ya açık ya da kapalı olduğunu vurgulayarak konuşmaya bir soyutlama katmanı ekledi. Bu ikili durumların çeşitli kombinasyonları aracılığıyla bilgisayarlar, görevleri yürütmek için bitleri yönetir. İnsan beyninin aksine, transistörler karmaşık dolaşmalarla meşgul değildir; yalnızca sonuçta sonuç veren bir anahtarlar koleksiyonu olarak işlev görürler.
Genel yapay zeka modellerinin aşağı doğru sarmalı
Tartışmanın özü, son derece spesifik görevler için genellikle temel modeller olarak adlandırılan genelleştirilmiş yapay zeka modellerinin kullanılmasının ortaya çıkardığı zorluklar etrafında dönüyordu. İkili, özellikle büyük dil modellerini (LLM'ler) ve bunların sınırlamalarını inceledi. LLM'ler, ister soru ister bilgi istemi olsun, girdiyi analiz ederek ve istatistiksel kalıplara dayalı bir kelime dizisi oluşturarak çalışır. Bu modeller tahminde başarılıdır ancak konu doğrulama ve doğrulama olduğunda yetersiz kalmaktadır; çünkü ana tasarım hedefleri içeriğin doğruluğunu doğrulamak değil, içerik oluşturmaktır.
Varga kritik bir endişeye dikkat çekti: Yüksek derecede uzmanlaşmış görevler için çok genel yapay zeka modellerinin kullanılmasıyla ilişkili risk. Kuruluşlar çok çeşitli sorunların üstesinden gelmek için tek bir yapay zeka modeli kullanmaya çalıştığında sorunlu bir model ortaya çıkıyor. Freese bunu kendi kendini güçlendiren aşağı doğru bir sarmala benzetti. Bu döngüden kurtulmak için Freese, bazıları temel modeller üzerine inşa edilebilecek daha özelleştirilmiş yapay zeka modellerinin kullanılmasına doğru bir geçiş önerdi.
Kod değerlendirmede insan yargısının rolü
Tartışmada ortaya çıkan temel konulardan biri, yapay zeka tarafından oluşturulan kodun kullanımının güvenli olup olmadığı ve gerekli standartları ve kaliteyi karşılayıp karşılamadığı sorusuydu. Varga, bu soruların sonuçta insan muhakemesini ve müdahalesini gerektirdiğini vurguladı. Yapay zeka tarafından oluşturulan kodu değerlendirme süreci hafife alınmamalıdır çünkü bu, başka biri tarafından yazılan tanıdık olmayan kodda hata ayıklamanın zorluklarıyla paraleldir. Başka birinin kodunda hata ayıklamak karmaşık bir çaba olabileceği gibi, yapay zeka tarafından oluşturulan kodun kalitesinin ve güvenliğinin sağlanması da dikkatli bir inceleme gerektirir.
Varga, yapay zekanın problem çözme süreçlerini başlatmak için değerli bir araç olma potansiyelini vurguladı. Ancak yapay zeka harekete geçirildiğinde kapsamlı bir işlem sonrası aşamanın gerekli olduğu konusunda uyardı. Bu aşama yapay zeka tarafından oluşturulan içeriğin kontrol edilmesini, doğrulanmasını, değiştirilmesini, düzenlenmesini ve bazı durumlarda yeniden yazılmasını içerir. Yapay zekanın sunduğu işin gerçek boyutu işte bu önemli aşamada ortaya çıkıyor.
NDC Oslo 2023'teki tartışma, özünde, özellikle kod oluşturma gibi son derece uzmanlaşmış alanlarda yapay zeka modellerinin gücünden yararlanırken gereken hassas dengenin altını çizdi. Yapay zeka, sorun çözme yardımı olarak muazzam bir umut vaat etse de, ürettiği çıktının kalitesini, güvenliğini ve uygunluğunu sağlamada insan gözetimi ve doğrulaması vazgeçilmez olmaya devam ediyor.
