Azure OpenAI ince ayarı ne zaman kullanılır?

  • Makale

Belirli bir kullanım örneğinde ince ayarlamanın doğru çözüm olup olmadığına karar verirken, bilmeniz gereken bazı önemli terimler vardır:

  • prompt Engineering , doğal dil işleme modelleri için istem tasarlamayı içeren bir tekniktir. Bu işlem yanıtlardaki doğruluğu ve ilgi düzeyini artırarak modelin performansını iyileştirir.
  • Alma Artırılmış Nesil (RAG), dış kaynaklardan veri alıp bir istem içine ekleyerek Büyük Dil Modeli (LLM) performansını geliştirir. RAG, işletmelerin veri ilgi düzeyini korurken ve maliyetleri iyileştirirken özelleştirilmiş çözümler elde etmesine olanak tanır.
  • Hassas ayarlama , örnek verileri kullanarak mevcut Büyük Dil Modelini yeniden eğitir ve sağlanan örnekler kullanılarak iyileştirilmiş yeni bir "özel" Büyük Dil Modeli elde eder.

Azure OpenAI ile İnce Ayarlama nedir?

İnce ayarlamadan söz ettiğimizde, insan geri bildirimi (RLHF) aracılığıyla sürekli eğitim değil denetimli ince ayarlama veya Pekiştirme Öğrenmesi anlamına gelir. Denetimli ince ayar, önceden eğitilmiş modelleri belirli veri kümelerinde yeniden eğitme sürecini ifade eder. Bu süreç genellikle belirli görevlerde model performansını geliştirmek veya temel model ilk eğitildiğinde iyi temsil edilmeyecek bilgiler sunar.

İnce ayar, uygun şekilde kullanmak için uzmanlık gerektiren gelişmiş bir tekniktir. Aşağıdaki sorular, ince ayarlamaya hazır olup olmadığınızı ve süreç boyunca ne kadar iyi düşündüğünüzu değerlendirmenize yardımcı olur. Sonraki adımlarınıza yol göstermek veya daha uygun olabilecek diğer yaklaşımları belirlemek için bunları kullanabilirsiniz.

Modelde neden ince ayar yapmak istiyorsunuz?

  • Hassas ayarlamalar yapmak için belirli bir kullanım örneğini net bir şekilde ifade edebilmeli ve ince ayar yapmak istediğiniz modeli tanımlayabilmelisiniz.
  • İnce ayar için iyi kullanım örnekleri arasında modelin içeriği belirli ve özelleştirilmiş bir stilde, tonda veya biçimde çıkış olarak yönlendirmesi ya da modeli yönlendirmek için gereken bilgilerin istem penceresine sığamayacak kadar uzun veya karmaşık olduğu senaryolar sayılabilir.

Genel işaretler henüz hassas ayarlamaya hazır olmayabilirsiniz:

  • İnce ayar için net bir kullanım örneği veya "Modeli daha iyi hale getirmek istiyorum" ifadesinden çok daha fazlasını ifade edememe.
  • Maliyeti birincil motivasyonunuz olarak belirlerseniz dikkatli olun. hassas ayarlama, istemleri kısaltarak veya daha küçük bir model kullanmanıza izin vererek belirli kullanım durumlarının maliyetlerini azaltabilir, ancak eğitim için daha yüksek ön maliyet vardır ve kendi özel modelinizi barındırmak için ödeme yapmanız gerekir. Azure OpenAI maliyetlerinde ince ayar yapma hakkında daha fazla bilgi için fiyatlandırma sayfasına bakın.
  • Modele etki alanı bilgisi eklemek istiyorsanız, verilerinizde Azure OpenAI'ler veya eklemeler gibi özelliklere sahip artırılmış oluşturma (RAG) ile başlamalısınız. Genellikle bu, kullanım örneğine ve verilere bağlı olarak daha ucuz, daha uyarlanabilir ve potansiyel olarak daha etkili bir seçenektir.

Şimdiye kadar ne denediniz?

hassas ayarlama, üretken yapay zeka yolculuğunuzun başlangıç noktası değil gelişmiş bir özelliktir. Büyük Dil Modellerini (LLM) kullanmanın temellerini zaten biliyor olmalısınız. İlk olarak, performans için bir temel elde etmek için istem mühendisliği ve/veya Alma Artırılmış Nesli (RAG) ile bir temel modelin performansını değerlendirmelisiniz.

İnce ayar yapmadan performansa yönelik bir taban çizgisine sahip olmak, ince ayarlamanın model performansını geliştirip geliştirmediğini bilmek için önemlidir. Hatalı verilerle ince ayar yapmak temel modeli daha kötü hale getirir, ancak taban çizgisi olmadan regresyonları algılamak zordur.

Size ince ayar yapmak için hazırsanız:

  • prompt Engineering ve RAG tabanlı yaklaşımlar hakkında kanıt ve bilgi gösterebilmeli.
  • Kullanım örneğinde zaten denenmiş olan ince ayarlamalar dışındaki tekniklerle belirli deneyimleri ve zorlukları paylaşabilirsiniz.
  • Mümkün olduğunda temel performansın nicel değerlendirmelerinin olması gerekir.

Genel işaretler henüz hassas ayarlamaya hazır olmayabilirsiniz:

  • Diğer teknikleri test etmeden ince ayar ile başlayarak.
  • Hassas ayarlamanın özellikle Büyük Dil Modelleri (LLM) için nasıl geçerli olduğu hakkında yeterli bilgi veya anlayış yok.
  • İnce ayarlamayı değerlendirecek karşılaştırma ölçümü yok.

Alternatif yaklaşımlarla çalışmayan nedir?

İstem mühendisliğinin nerelerde kısa olduğunu anlamak, ince ayarlarınız hakkında rehberlik sağlamalıdır. Temel model uç durumlarda mı yoksa özel durumlarda mı başarısız oluyor? Temel model tutarlı bir şekilde doğru biçimde çıkış sağlamıyor mu ve bağlam penceresine düzeltmek için yeterli örneği sığdıramıyor musunuz?

Temel model ve istem mühendisliğiyle ilgili hata örnekleri, ince ayarlama için toplamaları gereken verileri ve ince ayarlı modelinizi nasıl değerlendirmeniz gerektiğini belirlemenize yardımcı olur.

İşte bir örnek: Müşteri, doğal dil sorularını standart olmayan belirli bir sorgu dilindeki sorgulara dönüştürmek için GPT-3.5-Turbo kullanmak istedi. İstemde ("Her zaman GQL döndür") rehberlik sağladılar ve veritabanı şemasını almak için RAG kullandılar. Ancak, söz dizimi her zaman doğru değildi ve çoğu zaman uç durumlar için başarısız oldu. Modelin daha önce başarısız olduğu durumlar da dahil olmak üzere binlerce doğal dil sorusu ve veritabanı için eşdeğer sorgu örnekleri topladılar ve bu verileri kullanarak modelde ince ayarlamalar yaptılar. Yeni ince ayarlı modellerini, mühendislik istemi ve alma işlemleriyle birleştirerek model çıkışlarının doğruluğu, kullanım için kabul edilebilir standartlara kadar getirilmiştir.

Size ince ayar yapmak için hazırsanız:

  • Alternatif yaklaşımlardaki zorluklara nasıl yaklaştığınıza ve performansı geliştirmek için olası çözümler olarak nelerin test edildiğini gösteren net örneklere sahip olun.
  • Temel model kullanarak uç örneklerde tutarsız performans, modeli yönlendirmek için bağlam penceresine yeterli sayıda çekim istemi sığdıramama, yüksek gecikme süresi vb. gibi eksiklikler belirlediniz.

Genel işaretler henüz hassas ayarlamaya hazır olmayabilirsiniz:

  • Model veya veri kaynağından yetersiz bilgi.
  • Modele hizmet vermek için doğru verileri bulamıyor.

hassas ayarlama için hangi verileri kullanacaksınız?

Harika bir kullanım örneği olsa bile, ince ayarlama yalnızca sağlayabilmekte olduğunuz verilerin kalitesi kadar iyidir. Hassas ayarlamalar yapmak için zaman ve çaba harcamaya istekli olmanız gerekir. Farklı modeller farklı veri hacimleri gerektirir, ancak genellikle oldukça büyük miktarlarda yüksek kaliteli seçilmiş veri sağlayabilmeniz gerekir.

Bir diğer önemli nokta da, verileriniz ince ayar için gerekli biçimde değilse, verileri düzgün bir şekilde biçimlendirmek için mühendislik kaynaklarını işlemeniz gerekir.

Veri Babbage-002
Davinci-002		 GPT-3.5-Turbo
GPT-4o & GPT-4o mini
GPT-4
Hacim Binlerce Örnek Binlerce Örnek
Biçimlendir İstem/Tamamlama Konuşma Sohbeti

Size ince ayar yapmak için hazırsanız:

  • hassas ayarlama için bir veri kümesi belirledik.
  • Veri kümesi eğitim için uygun biçimdedir.
  • Veri kümesi kalitesini güvence altına almak için bazı düzeylerde küratörler kullanıldı.

Genel işaretler henüz hassas ayarlamaya hazır olmayabilirsiniz:

  • Veri kümesi henüz tanımlanmadı.
  • Veri kümesi biçimi, ince ayar yapmak istediğiniz modelle eşleşmiyor.

Hassas modelinizin kalitesini nasıl ölçebilirsiniz?

Bu sorunun tek bir doğru yanıtı yoktur, ancak ince ayar ile başarının nasıl göründüğüne ilişkin hedefleri açıkça tanımlamış olmanız gerekir. İdeal olarak, bu yalnızca nitel olmamalı, aynı zamanda doğrulama için bir veri saklama kümesi kullanmak gibi nicel başarı ölçümlerini ve ayrıca kullanıcı kabul testini veya A/B'nin ince ayarlı modeli bir temel modele göre test etmeyi içermelidir.

Sonraki adımlar