İstem mühendisliği teknikleri
OpenAI'nin GPT-3, GPT-3.5, GPT-4 ve GPT-4o modelleri istem tabanlıdır. İstem tabanlı modellerde kullanıcı, bir metin istemi girerek ve modelin metin tamamlama özelliği ile bu isteme bir yanıt vermesiyle modelle etkileşim kurar. Bu giriş, modelin giriş metninin devamıdır.
Bu modeller son derece güçlü olmakla birlikte, davranışları da istemlere karşı çok hassastır. Bu, istem oluşturmayı geliştirilecek çok önemli bir beceri haline getirir.
İstem oluşturma zor olabilir. Pratikte istem, istenen görevi tamamlamak için model ağırlıklarını yapılandırmaya yönelik hareket eder, ancak genellikle başarılı bir istem oluşturmak için deneyim ve sezgi gerektiren bir bilimden çok bir sanattır. Bu makalenin amacı, bu öğrenme sürecine başlamanıza yardımcı olmaktır. Tüm GPT modelleri için geçerli olan genel kavramları ve desenleri yakalamaya çalışır. Ancak her modelin farklı davrandığını anlamak önemlidir, bu nedenle öğrenmeler tüm modellere eşit şekilde uygulanamayabilir.
Temel bilgiler
Bu bölüm, GPT istemlerinin temel kavramlarını ve öğelerini kapsar.
Metin istemleri, kullanıcıların GPT modelleriyle etkileşim kurma şeklidir. Tüm üretken dil modellerinde olduğu gibi GPT modelleri de önceki metinden takip etme olasılığı en yüksek olan bir sonraki sözcük serisini üretmeye çalışır. Sanki ben dediğimde aklına gelen ilk şey nedir?<prompt> Aşağıdaki örneklerde bu davranış gösterilmektedir. Ünlü içeriğin ilk sözcükleri göz önünde bulundurulduğunda, model metne doğru şekilde devam edebiliyor.
| İstem | Tamamlama |
|---|---|
| Dört puan ve yedi yıl önce | Bu kıtada ortaya çıkarılan babalar, Özgürlük'te tasarlanan ve tüm insanların eşit olarak yaratıldıkları önermesine adanmış yeni bir ulus. […] |
| "Bana Ishmael de." | "Birkaç yıl önce, çantamda çok az para olması ve kıyıda ilgimi çeken hiçbir şey olmaması nedeniyle, birkaç yıl önce denize açılıp dünyanın su dolu kısmını göreceğimi düşünmüştüm." […] |
Daha karmaşık istemler geliştirirken, bu temel davranışı göz önünde bulundurmanız yararlı olur. Sağlanan istemden bağımsız olarak, model büyük olasılıkla belirlediğini (eğitim verileri ve eğitim hedefleri dikkate alındığında) yalnızca yanıt verir. İsteminizde bir soru sorarsanız model ayrı bir "Soru-Cevap" kod yolunu izlemez, bunun yerine sorunun yanıtını oluşturur çünkü verilen sorunun giriş olarak en olası yanıtı yanıt türü bir yanıttır.
İstem bileşenleri
Tamamlama API'sini kullanırken, istemin farklı bölümleri arasında farklı bir fark olmasa da, temel istem bileşenlerini tanımlamak için öğrenme ve tartışma için yararlı olabilir. Sohbet Tamamlama API'siyle, istemin API'ye ilişkili rollere sahip sözlük dizisi biçiminde gönderilen ayrı bölümleri vardır: sistem, kullanıcı ve yardımcı. Bu kılavuz daha genel olarak bir API'ye başka bir API'ye özgü açıklayıcı rehberlik sağlamak yerine hızlı oluşturma hakkında düşünme konusuna odaklanır.
Ayrıca istemleri dağıtmak için başka geçerli yollar da olsa, bu dökümün amacının istem oluşturma hakkında düşünmek için nispeten basit bir yol sağlamak olduğunu anlamak önemlidir. Tamamlama API'siyle tüm bileşenler isteğe bağlıdır, ancak en az bir bileşen bulunmalıdır ve çoğu istem birden fazla bileşen içerir. Bileşenler arasında bazı gri alanlar da olabilir. Aşağıda sunulan sıra kabaca her bileşenin en çok en az ne sıklıkta kullanıldığına karşılık gelir.
Yönergeler
Yönergeler büyük olasılıkla en yaygın kullanılan istem bileşenidir. Yönergeler basitçe şu şekildedir: modele ne yapılması gerekenlere ilişkin yönergeler. Kavram açısından basit olsa da, pratikte karmaşık olabilirler. Aşağıdaki tablo, iki farklı biçimde hem basit hem de daha karmaşık yönergeleri göstererek bunu göstermektedir.
| Yönerge Türü | İstem | Tamamlama |
|---|---|---|
| Basit yönergeler | Haftalık bülten için bir giriş yazın. | Haftalık bültenimize hoş geldiniz. Bu hafta üretkenlik konusuna özel bir odaklanıyoruz. Hayatınızın her alanında üretken olma konusunda ipuçları ve püf noktaları paylaşacağız. Umarız zevk alırsınız ve lütfen arkadaşlarınızla paylaşın! |
| Karmaşık yönergeler | Contoso adlı şirketime haftalık bültenin tanıtımını yazın. Geçen hafta yaptığımız harika tüm eller toplantısından bahsetmeli ve son birkaç aydaki tüm sıkı çalışmaları için takıma teşekkür etmelidir. | Contoso'nun haftalık bültenine hoş geldiniz! Geçen hafta harika bir eller toplantısı yaptık ve son birkaç aydaki tüm sıkı çalışmaları için takıma teşekkür etmek istiyorum. Parlak bir gelecek için sabırsızlanıyoruz ve ekibimizin özverisi ve bağlılığıyla harika işler başaracağımızdan eminim. Ekibimizin bir parçası olduğunuz için teşekkür ederiz ve önümüzdeki haftalarda ve aylarda sizinle birlikte çalışmayı dört gözle bekliyorum. Saygılarımla, [Adınız]. |
| Karmaşık Yönergeler | Aşağıdakiler de dahil olmak üzere haftalık bülten için bir giriş yazın: - Şirketimin adı contoso - Heyecan dolu bir karşılama - Birkaç zor aydaki sıkı çalışmaları için takıma teşekkür etme - Önümüzdeki çeyrek için pozitif görünüm - SLT tarafından imzalandı |
Merhaba Contoso ekibi! Son birkaç aydaki tüm çalışmalarınızdan dolayı size teşekkür etmek istedim. Birkaç ay zor geçti ama hepiniz bir araya gelip harika bir iş çıkardınız. Hepinizle gurur duyuyorum. Bir sonraki çeyreğe baktığımda kendimi çok olumlu hissediyorum. Bence harika şeyler başaracağız. Tekrar teşekkürler, Üst Düzey Liderlik Ekibi. |
Birincil İçerik
Birincil içerik, model tarafından işlenen veya dönüştürülen bir tür metni ifade eder. Birincil içerik genellikle yönergelerle birlikte kullanılır. Basit bir örnek, dil çevirisi olabilir. Aşağıdaki örnekte İngilizce metin birincil içerik olarak kabul edilirken "Fransızcaya Çevir:" bir yönergedir.
| İstem | Tamamlama |
|---|---|
| Lütfen bana müzeye nasıl ulaşabileceğinizi söyler misiniz? Fransızcaya çevir: |
Pouvez-vous s'il vous plaît me dire comment aller au musée? |
Birincil içerik de çok daha uzun olabilir. Aşağıdaki örnekte birincil içerik, Wikipedia girişinde yaklaşık 300 sözcük uzunluğunda olan zaman karmaşıklığı giriş bölümüdür. Bu içerik, görüntüleme kolaylığı için tablomuzda kısaltılmıştır.
| İstem | Tamamlama |
|---|---|
| Bilgisayar biliminde zaman karmaşıklığı, bir algoritmayı çalıştırmak için gereken bilgisayar süresini açıklayan hesaplama karmaşıklığıdır. Zaman karmaşıklığı genellikle [...] tarafından tahmin edilir Önceki metni birkaç cümlede özetleyin: |
Zaman karmaşıklığı, bir algoritmanın çalıştırılmasının ne kadar sürdüğünü gösteren bir ölçüdür. Genellikle girişin boyutunun bir işlevi olarak ifade edilir. En yaygın ölçü, belirli bir boyuttaki girişler için gereken maksimum süre olan en kötü durum zaman karmaşıklığıdır. |
Bilgisayar biliminde zaman karmaşıklığı, bir algoritmayı çalıştırmak için gereken bilgisayar süresini açıklayan hesaplama karmaşıklığıdır. Zaman karmaşıklığı genellikle [...] tarafından tahmin edilirTL;DR (Çok uzun okumadı) |
Bir algoritmanın zaman karmaşıklığı, bir algoritmayı çalıştırmak için gereken süredir. Zaman karmaşıklığı genellikle algoritma tarafından gerçekleştirilen temel işlemlerin sayısı sayılarak tahmin edilir ve her bir temel işlemin gerçekleştirilmesi sabit bir süre alır. Zaman karmaşıklığı genellikle girişin boyutunun bir işlevi olarak ifade edilir. |
GPT modelleri yapılandırılmış birincil içeriği de işleyebilir. Aşağıdaki örnekte, istem kapsamında Belçika'daki biralar hakkında bir TSV (bu makalede görüntülenmek üzere kısaltılmış) modele geçirilir. İçeriği düzgün bir şekilde yorumlayıp veri hakkındaki soruları yanıtlayabilme özelliğine sahiptir.
| İstem | Tamamlama |
|---|---|
Belgian Beer Brands Beer name Beer style color ABV Brewery"Chimay Gold: ""Doree""" trappist pale ale gold 4.80% Chimay Brewery (official trappist)"Chimay Blue: ""Grande Reserve""" trappist dark ale dark 9.00%[…] Yukarıdaki tabloya başvurarak, kaç bira %6'dan az ABV'dir? |
Tabloda %6'dan az ABV olan 10 bira vardır. |
Örnekler
Başarılı istemler genellikle "tek seferlik" veya "az çekim" öğrenme pratiğine dayanır. Bu, genellikle giriş ve çıkış çiftleri dahil ederek modelin istenen davranışına ilişkin bir veya daha fazla örneğin eklenmesini ifade eder. Bu, modelin kalıcı olarak değiştirilmesi açısından değil, örneklerin modeli yalnızca geçerli çıkarım için istenen şekilde yanıt vermesi için daha iyi koşula sahip olması açısından öğrenmedir. Örnek içermeyen istemlerin kullanılması bazen "sıfır çekim" öğrenme olarak adlandırılır. Sohbet Tamamlama API'siyle, genellikle ilk sistem iletisinden sonra örnek kullanıcı/yardımcı etkileşimleri biçiminde iletiler dizisine birkaç çekim öğrenme örneği eklendiğini unutmayın.
| Öğrenme Türü | İstem | Tamamlama |
|---|---|---|
| Sıfır çekim | Başlık: Koç kendine güvenen sakatlık Warriors'ı raydan çıkarmaz Konu: |
Koç, sakatlıkların Warriors sezonunun rayından çıkmayacağından emin. Takım hala hedeflerine odaklanmış durumda ve onlara ulaşmak için sıkı çalışmaya devam edecek. |
| Az çekim | Başlık: İkizlerin Correa'sı, geri çevirme, test ücretsiz ajansı kullanmak için Konu: Beyzbol Başlık: Katar Dünya Kupası ayılmaya yönelik bölgelere sahip olacak Konu: Futbol Başlık: Yates: 6. Hafta için fantezi futbol istihbaratı Konu: Futbol Başlık: Koç kendine güvenen sakatlık Warriors'ı raydan çıkarmaz Konu: |
Basketbol |
Yukarıdaki örnekte, az denemeli öğrenmenin yardımcı programı gösterilmektedir. Örnekler olmadan, model istenen davranışı tahmin ediyor gibi görünürken, örnekler modelin nasıl çalışılacağına ilişkin net bir şekilde gösterir. Bu, modelin gücünü de gösterir, örneklerde "basketbol" etiketi olmasa bile istenen etiket kategorisini çıkarsayabilir.
İsteka
İşaretler, modelin çıkışı için "jumpstart" görevi görür ve modeli istenen çıkışa yönlendirmeye yardımcı olur. Genellikle modelin üzerine oluşturabileceği bir ön ektir. Aşağıdaki örnekte, hikayeyi temel öğeleri içerecek şekilde yönlendiren ipucu göstereceğiz. ipuçları genellikle yönergelerle birlikte kullanılır, ancak her zaman kullanılmaz. Aşağıdaki örneklerde model, uzun bir duyuru e-postasını özetlemek için kullanılmaktadır. Bir örnekte, modelin çıkışına odaklanmaya yardımcı olmak ve diğerinde belirli bir çıkış biçimi (madde işareti noktaları) önermek için ipucu kullanılır.
Sohbet Tamamlama API'sinin yönergeleri bağlamında sistem iletisinin biçimini alır ve modeli hazırlamaya yardımcı olmak için bir dizi örnek kullanıcı/yardımcı etkileşimi sağlanarak birkaç çekim örneği gösterilir.
| İpucu Sayısı | İstem | Tamamlama |
|---|---|---|
| 0 | Performans incelemeleri, Contoso'daki Performans ve Geliştirme yaklaşımımızın temel bileşenlerindendir. […] Yukarıdaki e-posta iletisini özetleyin: |
Bu e-postanın amacı, Contoso'nun Performans ve Geliştirme yaklaşımının bir parçası olan performans gözden geçirme deneyiminde yapılan son değişiklikler hakkında çalışanları bilgilendirmektir. Değişiklikler arasında geliştirilmiş bir yapı, yükseltilmiş araç içi kullanıcı deneyimi ve odaklanmış istemler yer alır. Ayrıca, artık çalışanların yöneticileriyle tartışmak istedikleri konuları bayrakla işaretlemesi için isteğe bağlı bir Konuşma Başlatıcılar bölümü vardır. |
| 1 | Performans incelemeleri, Contoso'daki Performans ve Geliştirme yaklaşımımızın temel bileşenlerindendir. […] Yukarıdaki e-posta iletisini özetleyin: İletinin önemli kısmı şudur: |
Contoso'ya temel önceliklere, beklentilere ve etkiye daha fazla odaklanarak performans gözden geçirme deneyimini geliştirmektedir. Ayrıca ipuçları, kaynaklar ve yönergelerle araç içi kullanıcı deneyimini yükseltiyor. Son olarak, şirket genelinde temel öncelikleri etkinleştirme konusunda rehberlik ekliyorlar. |
| 2 | Performans incelemeleri, Contoso'daki Performans ve Geliştirme yaklaşımımızın temel bileşenlerindendir. […] Yukarıdaki e-posta iletisini özetleyin: Önemli Noktalar: • |
Contoso, çalışanlardan gelen geri bildirimlere dayanarak performans gözden geçirme deneyiminde değişikliklere giriş yaptı. • Değişiklikler temel öncelikler, beklentiler ve etki üzerine yeni bir odak noktası içerir; yükseltilmiş bir kullanıcı deneyimi; ve şirket genelinde temel önceliklerle ilgili yeni yönergeler. • Performans incelemeleri, geçmiş performans ve öğrenmeyi yansıtmanın yanı sıra gelecekteki öncelikleri ve büyüme fırsatlarını planlamanın zamanıdır. • Çalışanlar ve yöneticiler, performans gözden geçirme toplantısı öncesinde yorum yazmalıdır. • Yılda en az iki performans değerlendirmesi olmalıdır. • Her inceleme için zaman yatırımı yaklaşık olarak aynı kalmalıdır. |
Destekleyici içerik
Destekleyici içerik, modelin çıkışı bir şekilde etkilemek için kullanabileceği bilgilerdir. Birincil içerikten farklıdır, görevin ana hedefi değildir, ancak genellikle birincil içerikle birlikte kullanılır. Yaygın örnekler arasında geçerli tarih, kullanıcının adı, kullanıcı tercihleri vb. gibi bağlamsal bilgiler yer alır. Aşağıdaki örnekte, kullanıcıya yönelik bir dizi planlı atölyeyi düzenlemeye yardımcı olmak için destekleyici içerik kullanılır. Destekleyici (önemli konular) olmadan, model yalnızca atölyeleri listeler (görüntülenmek üzere kesilir), önemli konularım hakkında bilgilendirildiğinde, model toplantıları doğru bir şekilde gruplandırabiliyor.
| Destekleyici İçerik | İstem | Tamamlama |
|---|---|---|
| Avantaj olmadan | Atölye listesi: Başlık Açıklaması Planlama Atölyesi Başlangıç Atölyemizi başlatmak için lütfen bize katılın! Liderlerimizden önümüzdeki yıl için grup öncelikleri ve öğrenmeleri hakkında bilgi alın. Bu etkinliğin daveti zaten [...] içindeki herkese gönderildi Yukarıdaki atölyeleri konu başlığına göre gruplandırarak özetleyin: |
Atölye listesi: Planlama Atölyesi Başlangıç -Planlama Atölyesi Sarmalama - Çekirdek MeetUp - Müşteri Odaklı Perspektifler -Etki ve Önemli Odak Alanları -En iyi yöntemler -Uygulama benimsemeyi hızlandırma [...] |
| With | Atölye listesi: Başlık Açıklaması Planlama Atölyesi Başlangıç Atölyemizi başlatmak için lütfen bize katılın! Liderlerimizden önümüzdeki yıl için grup öncelikleri ve öğrenmeleri hakkında bilgi alın. Bu etkinliğin daveti zaten [...] içindeki herkese gönderildi Önemli Konularım: istem mühendisliği, arama, GPT modelleri Yukarıdaki atölyeleri, önemli konularıma göre gruplandırılmış olarak özetleyin: |
1. İstem Mühendisliği: - Yeni istem mühendisliği ipuçları - İstem mühendisliği sanatı 2. Arama: -Ekleme ile vektör aramasına giriş 3. GPT Modelleri: - GPT-4'e giriş - GPT-35-Turbo derinlemesine. |
Senaryoya özgü yönergeler
İstem mühendisliğinin ilkeleri birçok farklı model türünde genelleştirilebilir ancak bazı modeller özel bir istem yapısı bekler. Azure OpenAI GPT modelleri için şu anda istem mühendisliğinin devreye girdiği iki ayrı API vardır:
- Sohbet Tamamlama API'si.
- Tamamlama API'si.
Her API için giriş verilerinin farklı biçimlendirilmesi gerekir ve bu da genel istem tasarımını etkiler. Sohbet Tamamlama API'si GPT-35-Turbo ve GPT-4 modellerini destekler. Bu modeller, bir dizi sözlük içinde depolanan belirli bir sohbet benzeri transkriptte biçimlendirilmiş girişler almak için tasarlanmıştır.
Tamamlama API'si eski GPT-3 modellerini destekler ve belirli biçim kuralları olmayan bir metin dizesi alması için çok daha esnek giriş gereksinimlerine sahiptir.
Bu bölümdeki teknikler, Büyük Dil Modeli (LLM) ile oluşturduğunuz yanıtların doğruluğunu ve topraklamasını artırmaya yönelik stratejiler öğretecektir. Ancak, istem mühendisliğini etkin bir şekilde kullanırken bile modellerin oluşturduğu yanıtları doğrulamanız gerektiğini unutmamanız önemlidir. Dikkatle hazırlanmış bir istem belirli bir senaryo için iyi çalışıyor olması, belirli kullanım örnekleri için daha geniş kapsamlı bir genelleştirileceği anlamına gelmez. LLM'lerin sınırlamalarını anlamak, güçlü yönlerinden nasıl yararlanacaklarını anlamak kadar önemlidir.
Bu kılavuz, Sohbet Tamamlamaları için ileti yapısının arkasındaki mekaniğe derinlemesine girmez. Sohbet Tamamlama modelleri ile program aracılığıyla etkileşim kurma hakkında bilginiz yoksa, önce Sohbet Tamamlama API'siyle ilgili nasıl yapılır kılavuzumuzu okumanızı öneririz.
Not
Kılavuzun bu bölümündeki tüm örnekler, temel GPT-4 modelinde İngilizce test edilmiştir. Bu makalenin yerelleştirilmiş bir sürümünü başka bir dilde okuyorsanız, bu yanıtlar İngilizce sonuçların yerelleştirilmiş çevirisini temsil eder. Model sorulduğunda hangi dili kullandığınıza bağlı olarak olası sınırlamalar hakkında daha fazla bilgi edinmek için sorumlu yapay zeka saydamlığı notumuza bakın.
Az çekim öğrenme
Dil modellerini yeni görevlere uyarlamanın yaygın yollardan biri, az çekim öğrenmeyi kullanmaktır. Birkaç denemeli öğrenmede, modele ek bağlam sağlama isteminin bir parçası olarak bir dizi eğitim örneği sağlanır.
Sohbet Tamamlamaları API'sini kullanırken, Kullanıcı ve Yardımcı arasındaki bir dizi ileti (yeni istem biçiminde yazılmış) birkaç deneme öğrenmesi için örnek olarak kullanılabilir. Bu örnekler modeli belirli bir şekilde yanıt vermeye, belirli davranışlara öykünmeye ve sık sorulan sorulara yanıt vermeye hazır hale getirmek için kullanılabilir.
| Sistem iletisi | Birkaç çekimli örnekler |
|---|---|
| Asistan, kullanıcıların vergiyle ilgili sorularını yanıtlamalarına yardımcı olmak için tasarlanmış akıllı bir sohbet botudur. Talimat -ları - Yalnızca vergiler ile ilgili soruları yanıtlayın. - Bir yanıt emin değilseniz, "Bilmiyorum" veya "Emin değilim" diyebilir ve daha fazla bilgi için kullanıcıların IRS web sitesine gitmesini önerebilirsiniz. |
Kullanıcı - "Vergilerimi ne zaman dosyalamalıyım?" Yardımcı - "2023'te vergilerinizi 18 Nisan'a kadar dosyalamalısınız. Tarih, 15 Nisan 2023'te cumartesi gününe denk geldiği için normal 15 Nisan son tarihinden sonradır. Daha fazla ayrıntı için bkz. https://www.irs.gov/filing/individuals/when-to-file " Kullanıcı - "Vergi iademin durumunu nasıl denetleyebilirim?" Yardımcı - "Ziyaret ederek https://www.irs.gov/refunds vergi iadenizin durumunu kontrol edebilirsiniz" |
Yukarıdaki tabloda temel istem yapısı açıklanmaktadır, ancak tam istem biçiminin ayrıntılı açıklaması için Sohbet Tamamlama kılavuzuna başvurmanız gerekir.
Sohbet dışı senaryolar
Sohbet Tamamlama API'si çok aşamalı konuşmalarla çalışacak şekilde iyileştirilse de, sohbet dışı senaryolar için de kullanılabilir. Örneğin, yaklaşım analizi senaryosu için aşağıdaki istemi kullanabilirsiniz:
| Sistem iletisi | User | Yardımcı |
|---|---|---|
| Konuşma verilerinden yaklaşımı analiz etmek için tasarlanmış bir yardımcısınız. Kullanıcılar bir metin dizesi yapıştırır ve siz de konuşmacının yanıtının değerlendirmesiyle yanıt verirsiniz. 1-10 (10 en yüksek) ölçeğinde oran. Bu derecelendirmenin neden verildiğini açıklayın. | Merhaba bugün konuşmakta olduğum contoso eczanesini çağırdığınız için teşekkür ederiz hayal kırıklığınızı anlıyorum mary um bana tam olarak neyi başarmaya çalıştığınızı söyleyebilirsiniz Ok uh kesinlikle sizin için bir an kontrol etmek için lütfen lütfen burada lipitorun genel bir formunda olduğunuzu görüyorum sağ Ok uh bu yüzden doktorunuzun yirmi yirmi birde bu ilaçları reçeteyi durdurmasını görüyorum aslında Tamam uh Evet, sizin yerinize kontrol etmek isterim çünkü bazen sistemde bir boşluk vardır ve sadece bildirilmez, bu yüzden buraya bir göz atayım, bu yüzden burada doktorunuzun size bu ilaçların 222 ila 201'den 201'e kadar yazıldığını görüyorum Tamam um evet doktor ofisi tarafından sağlanan en son kayıtlara göre uh şu anda farklı bir ilaç metformin kullanıyor olabilirsiniz Eğer bugün sizin için yapabileceğimiz başka bir şey varsa lütfen bize bildirin. | Yaklaşım derecelendirmesi: 8 Bu metindeki konuşmacı, müşterinin endişelerini giderirken kibar, yararlı ve sabırlı görünüyor. Bilgileri denetlemek, net açıklamalar sağlamak ve yardım sunmak için zaman alır. Ancak, konuşmanın bazı bölümlerinde hala belirsizliğe dair bir ipucu olduğundan, bu puan 10 değildir ve bu da müşteriye tam güven getirmeyebilir. |
Açık yönergelerle başlayın
Dizi bilgileri istemde görünür. Bunun nedeni, GPT stil modellerinin girişi nasıl işlediklerini tanımlayan belirli bir şekilde derlenmiş olmasıdır. Araştırmamız, ek bağlamsal bilgileri veya örnekleri paylaşmadan önce modele istem başında yapmak istediğiniz görevi söylemenin daha yüksek kaliteli çıkışlar üretmeye yardımcı olabileceğini öne sürüyor.
Not
Bu tekniğin izlenmesi, önceki model sürümlerinin (GPT-3 ve öncesi) aksine genel olarak önerilir ancak testimiz, tekniğin kullanılıp kullanılmadığına bakılmaksızın ChatGPT ve GPT-4 modelleriyle model yanıtının aynı olduğunu gösterdi. Aşağıdaki örnekte şu deyimin eklendiğini görüyoruz: "Çeşitli kaynaklar ... eruption" komutu istemin başında veya sonunda son model yanıtında herhangi bir değişikliğe neden olmadı.
| Sistem iletisi | User | Yardımcı |
|---|---|---|
| İnsanların bilgi bulmasına yardımcı olan bir yapay zeka yardımcısısınız. | Göreviniz, "Birkaç kaynak başka bir büyük patlama olasılığından bahsediyor" ifadesinin aşağıdaki kod parçacıkları kümesinden belirli bir alıntıyla desteklenip desteklenmediğini doğrulamaktır. --- PARÇACIK -LARI [1] Uzmanlara göre megaquake'nin Seattle'a çarpma olasılığı yüzde 14 SEATTLE - ABD Jeolojik Araştırma'nın tahminlerine göre, önümüzdeki 50 yıl içinde 9 Cascadia depreminin Seattle'a çarpma olasılığı yüzde 14'tür. "Ne yazık ki... [2] Deprem uzmanları Seattle'ın 'Gerçekten Büyük Olan' için en son görünümü ortaya çıkardı Washington Üniversitesi'nde bir jeofizikçi, "Önümüzdeki 50 yıl içinde yaklaşık olarak 9'luk bir depremin meydana gelmesi ihtimalinin yaklaşık %14 olduğunu söylüyoruz," dedi. --- "Birkaç kaynak başka bir büyük patlama olasılığından bahsediyor" ifadesi kod parçacıkları tarafından doğrudan açıklanıyor mu veya belirtiliyor mu? |
Hayır, deyimi doğrudan kod parçacıkları tarafından ima veya belirtilmemiş. Kod parçacıkları, önümüzdeki 50 yıl içinde Seattle'a bir "megaquake" ve "büyük 9 Cascadia depremi" şansından bahsediyor, ancak başka bir büyük patlama olasılığından bahsetmeyin. |
Yönergeleri en sonda yineleyin
Modeller, bilgi isteminin sonundaki bilgilerin istemin başındaki bilgilerden daha önemli bir etkiye sahip olabileceği anlamına gelen geri kazanma yanlılığından etkilenebilir. Bu nedenle, istem sonunda yönergeleri tekrarlayarak ve oluşturulan yanıt üzerindeki etkiyi değerlendirerek denemeler yapmanız faydalı olabilir.
Çıktıyı astarla
Bu, istenen formu izleyen bir model yanıtı almak için istemin sonuna birkaç sözcük veya tümcecik eklemek anlamına gelir. Örneğin, gibi “Here’s a bulleted list of key points:\n- ” bir ipucu kullanmak, çıkışın madde işareti noktaları listesi olarak biçimlendirildiğinden emin olunmasında yardımcı olabilir.
| Sistem iletisi | User | Yardımcı |
|---|---|---|
| İnsanların bilgi bulmasına yardımcı olan bir yapay zeka yardımcısısınız. Mümkün olduğunca az sözcükle yanıt verin. | John Smith, Lucy Smith ile evlidir. Beş çocukları var ve Microsoft'ta yazılım mühendisi olarak çalışıyor. Bunu gerçek olarak denetlemek için hangi arama sorgularını yapmalıyım? ## Olası arama sorgularından biri: | "John Smith Lucy Smith ile evlendi beş çocuk yazılım mühendisi Microsoft" |
Yukarıdaki istemde Olası arama sorgularından biri metni : Modeli tek bir çıkış üretmek için hazırlar. Bu ipucu olmadan model çıkış olarak birkaç arama sorgusu oluşturur.
Açık söz dizimi ekleme
noktalama işaretleri, başlıklar ve bölüm işaretçileri de dahil olmak üzere isteminiz için açık söz dizimi kullanmak amacın iletilmesine yardımcı olur ve genellikle çıkışların ayrıştırma işlemini kolaylaştırır.
Aşağıdaki örnekte, farklı bilgi kaynakları veya adımlar arasına ayırıcılar (--- bu örnekte) eklenmiştir. Bu, oluşturma için durdurma koşulu olarak kullanılmasına --- olanak tanır. Ayrıca bölüm başlıkları veya özel değişkenler, bunları ayırt etmek için büyük harfle sunulur.
| Sistem iletisi | User | Yardımcı |
|---|---|---|
| İnsanların bilgi bulmasına yardımcı olan bir yapay zeka yardımcısısınız. | Bir paragrafı okuyacak ve ardından bir arama altyapısına sorgular düzenleyip bunu kontrol edersiniz. Sorguları da açıklayın. --- PARAGRAF John Smith, Lucy Smith ile evlidir. Beş çocukları var ve Microsoft'ta yazılım mühendisi olarak çalışıyor. Bunu gerçek olarak denetlemek için hangi arama sorgularını yapmalıyım? --- SORGULAR |
1. "John Smith Microsoft" - John Smith'in gerçekten Microsoft'ta çalıştırılıp çalıştırılamadığını denetlemek için. 2. "John Smith Lucy Smith" - John Smith'in Lucy Smith ile evli olup olmadığını kontrol etmek için. 3. "John Smith çocukları" - John Smith'in beş çocuğu olup olmadığını kontrol etmek için. |
Hangi söz diziminde kullanacağınızdan emin değilseniz Markdown veya XML kullanmayı göz önünde bulundurun. Modeller XML ve Markdown'da büyük miktarda web içeriği üzerinde eğitilmiştir ve bu da daha iyi sonuçlar sağlayabilir.
Görevi bölme
Büyük dil modelleri (LLM' ler) genellikle görev daha küçük adımlara ayrılırsa daha iyi performans gösterir. Örneğin, daha önce başvuruda bulunılan arama sorgusu isteminde, istem yeniden yapılandırılarak modele önce ilgili olguları ayıklaması ve ardından bu olguları doğrulamak için kullanılabilecek arama sorguları oluşturması istenebilir.
| Sistem iletisi | User | Yardımcı |
|---|---|---|
| İnsanların bilgi bulmasına yardımcı olan bir yapay zeka yardımcısısınız. | Bir paragrafı okuyacak ve ardından bir arama altyapısına sorgular düzenleyip bunu kontrol edersiniz. --- PARAGRAF John Smith, Lucy Smith ile evlidir. Beş çocukları var ve Microsoft'ta yazılım mühendisi olarak çalışıyor. Bunu gerçek olarak denetlemek için hangi arama sorgularını yapmalıyım? --- Şimdi olgusal talepleri ayıklayacaksınız ve bunları kontrol etmek için sorgular düzenleyeceksiniz. Sorguyu düzenlerken MBUL("sorgu") işlevini kullanın OLGUSAL TALEPLER |
1. John Smith Lucy Smith ile evli 2. Beş çocukları var 3. Microsoft'ta yazılım mühendisi olarak çalışıyor SORGULAR SEARCH("John Smith, Lucy Smith ile evlendi") SEARCH("John Smith aile boyutu") SEARCH("John Smith Microsoft yazılım mühendisi") |
Bölümleri ayırt etmek ve çıkışı asal yapmak için açık söz diziminin kullanıldığına dikkat edin. Bu basit örnekte, görevi bir adımdan iki adıma bölmek çok dramatik değildir, ancak bunu birçok olgusal talebi olan daha büyük bir metin parçası için yapmaya çalışırken, görevi bölmek önemli bir fark oluşturabilir.
Affordance kullanımı
Bazen modelin bilgi ve yanıtlar için kendi parametrelerine güvenmek yerine bir affordance kullanmasını sağlayabiliriz. Örneğin, arama yapmak, uydurulan yanıtlara karşı azaltmaya yardımcı olmak ve güncel bilgileri almak için uygun bir fırsat olabilir.
Bir affordance kullanmanın basit bir yolu, model tarafından affordance çağrıları oluşturulduktan sonra üretimi durdurmak ve ardından sonuçları istem içine geri yapıştırmaktır. Aşağıda, yukarıdaki ARAMA çağrılarını yaptıktan sonra izleme çağrısının ne olabileceğine ilişkin bir örnek verilmiştir. Arama sonuçlarını istemine nasıl yapıştırdığımıza ve önceki SEARCH çağrılarını nasıl değiştirdiğimize dikkat edin.
| Sistem iletisi | User | Yardımcı |
|---|---|---|
| İnsanların bilgi bulmasına yardımcı olan bir yapay zeka yardımcısısınız. | Bir paragraf okuyacak, olgusal talepleri ayıklayacaksınız ve sonra bunları kontrol etmek için arama altyapısı sonuçlarını kullanacaksınız --- PARAGRAF John Smith, Lucy Smith ile evlidir. Beş çocukları var ve Microsoft'ta yazılım mühendisi olarak çalışıyor. Bunu gerçek olarak denetlemek için hangi arama sorgularını yapmalıyım? --- OLGUSAL TALEPLER - John Smith Lucy Smith ile evli - John ve Lucy'nin beş çocuğu var - John, Microsoft'ta yazılım mühendisi olarak çalışıyor --- Yukarıdaki talepleri araştırmak için çeşitli arama sorguları verilmiştir: ARAMA SORGULARı - John Smith Lucy Smith ile evlendi - John Smith çocuk sayısı - John Smith yazılım mühendisi Microsoft --- Arama sonuçlarının kod parçacıkları şunlardır: PARÇACIK -LARI: [1] John Smith'in düğünü 25 Eylül 2012 tarihinde ... [2] John Smith'e karısı Lucy bir partide eşlik etti [3] John'a futbol maçına iki kızı ve üç oğlu eşlik etti [4] Smith, Microsoft'ta 10 yıl geçirdikten sonra kendi startup'ı Tailspin Toys'u kurdu [5] John M, kasaba smith'idir ve Fiona ile evlendi. Lucy adında bir kızları var. --- Kod parçacıkları göz önünde bulundurulduğunda, yukarıdaki olgusal taleplerin her birini kontrol edin: |
- John Smith Lucy Smith ile evli: Onaylandı. Kod parçacığı [1] ve [2] her ikisi de John Smith'in karısından Lucy olarak bahseder. - John ve Lucy'nin beş çocukları var: Onaylandı. Kod parçacığı [3] John'a iki kızı ve üç oğlu eşlik ettiğini belirtir. - John, Microsoft'ta yazılım mühendisi olarak çalışıyor: Kısmen onaylandı. Kod parçacığı [4] John'un Microsoft'ta 10 yıl geçirdiğini belirtir, ancak şu anda orada çalıştığını açıkça belirtmez. Mevcut çalışma durumunu doğrulamak için daha fazla araştırma yapılması gerekebilir. |
Düşünce zinciri istemi
Bu, görevi bölme tekniğindeki bir çeşitlemedir. Bu yaklaşımda, bir görevi daha küçük adımlara bölmek yerine model yanıtına adım adım ilerlemesi ve ilgili tüm adımları sunması istenir. Bunun yapılması, sonuçların yanlışlık olasılığını azaltır ve model yanıtının değerlendirilmesini kolaylaştırır.
| Sistem iletisi | User | Yardımcı |
|---|---|---|
| İnsanların bilgi bulmasına yardımcı olan bir yapay zeka yardımcısısınız. | Sidney'de düzenlenen Olimpiyat oyunlarında en madalyalı (maksimum madalya) bireysel atlet kim oldu? Yanıtınızda adım adım bir yaklaşım benimsenin, kaynaklardan alıntı yapın ve son yanıtı aşağıdaki biçimde paylaşmadan önce mantık verin: ANSWER: <name> |
1. Adım: Sidney Olimpiyat oyunlarının yılını belirleyin. Sidney Olimpiyat oyunları 2000 yılında yapıldı. 2. Adım: 2000 Sidney Olimpiyatları'nda birden çok madalya kazanan bireysel sporcuların listesini bulun. Olimpiyat Oyunları'nın resmi web sitesine göre, 2000 Sidney Olimpiyatları'nda birden fazla madalya kazanan birkaç bireysel sporcu vardı. Önemli adlardan bazıları şunlardır: • Ian Thorpe (Avustralya) - 3 altın, 2 gümüş, 0 bronz • Pieter van den Hoogenband (Hollanda) - 2 altın, 0 gümüş, 2 bronz • Lenny Krayzelburg (ABD) - 3 altın, 0 gümüş, 0 bronz • Inge de Bruijn (Hollanda) - 3 altın, 1 gümüş, 0 bronz 3. Adım: En çok madalyası olan sporcuyu belirleyin. 2000 Sidney Olimpiyatları'nda birden çok madalya kazanan bireysel atletlerin listesini gözden geçirdikten sonra, en çok madalyaya sahip olan sporcunun, toplam 5 madalya (3 altın ve 2 gümüş) kazanan Avustralyalı Ian Thorpe olduğunu görebiliriz. Bu nedenle, ANSWER şöyledir: Ian Thorpe. |
Çıkış yapısını belirtme
Çıkışın yapısını belirtmek için isteminizin kullanılması, sonuçların niteliği ve kalitesi üzerinde önemli bir etkiye sahip olabilir. Bazen sistem iletisi girişleri "yalnızca gerçek bilgiler yaz" veya "bilgi uydurmayın" olarak yeterli risk azaltmaları olmayabilir. Bunun yerine, model yanıtının alıntıları da içermesini istemek, yanlış yanıtların yaygınlığını azaltmaya yardımcı olabilir.
Modele ifadeler yaparken kaynak malzemeden alıntı yapması talimatını verirseniz, bu ifadelerin topraklanma olasılığı çok daha yüksektir. Alıntıların sorulması, modelin her yanıt oluşturduğunda iki hata yapmasını sağlar: ilk hata, oluşturulmuş yanıt ve ikincisi hatalı alıntıdır. Alıntının desteklediği metne ne kadar yakın olursa, modelin alıntıyı tahmin etmesi gereken mesafe o kadar kısadır ve bu da satır içi alıntıların yanlış içerik oluşturma için içeriğin sonundaki alıntılardan daha iyi risk azaltmaları olduğunu gösterir.
Benzer şekilde, modelden bir paragraftaki olgusal deyimleri ayıklamasını isterseniz, 'X Y VE Z yapıyor' gibi bileşik deyimleri ayıklayabilir (bunu doğrulamak daha zor olabilir). Bu, (entity1, relationship, entity2) gibi bir çıkış yapısı belirtilerek önlenebilir.
Aşağıdaki örneklerde alıntıların kullanımı ve model yanıtını tanımlı bir yapıya uyacak şekilde yönlendirme gösterilmektedir.
| Sistem iletisi | User | Yardımcı |
|---|---|---|
| İnsanların bilgi bulmasına yardımcı olan bir yapay zeka yardımcısısınız | Aşağıdaki konuşmada Müşteri Desteği aracısı tarafından sergilenen farklı davranışları listeleyin. --- Merhaba bugün konuşmakta olduğum contoso eczanesini çağırdığınız için teşekkür ederiz hayal kırıklığınızı anlıyorum mary um bana tam olarak neyi başarmaya çalıştığınızı söyleyebilirsiniz Ok uh kesinlikle sizin için bir an kontrol etmek için lütfen lütfen burada lipitorun genel bir formunda olduğunuzu görüyorum sağ Ok uh bu yüzden doktorunuzun yirmi yirmi birde bu ilaçları reçeteyi durdurmasını görüyorum aslında Tamam uh Evet, sizin yerinize kontrol etmek isterim çünkü bazen sistemde bir boşluk vardır ve sadece bildirilmez, bu yüzden buraya bir göz atayım, bu yüzden burada doktorunuzun size bu ilaçların 222 ila 201'den 201'e kadar yazıldığını görüyorum Tamam um evet doktor ofisi tarafından sağlanan en son kayıtlara göre uh şu anda farklı bir ilaç metformin kullanıyor olabilirsiniz Eğer bugün sizin için yapabileceğimiz başka bir şey varsa lütfen bize bildirin. --- Müşteri Desteği temsilcisinin yanıtı nasıl oldu? BEHAVIOR("reason") biçimini kullanarak çeşitli davranışlarını sınıflandırın ve listeleyin ve sınıflandırmanın arkasındaki nedeni belirtin |
1. Kibar Selamlama DAVRANıŞı("Temsilci, konuşmayı kibar bir karşılamayla başlatır ve arayanın adını sorar") 2. Empatik DAVRANıŞ("Ajan Mary'nin hayal kırıklığını kabul eder ve endişesini anlamaya çalışır") 3. Özenli DAVRANıŞ("Aracı müşterinin sorununu dinler ve daha fazla ayrıntı ister") 4. Proaktif DAVRANıŞ("Aracı, sorunu müşteri için denetlemeyi teklif etti") 5. Bilgilendirici DAVRANıŞ("Temsilci müşterinin reçete geçmişi hakkında ilgili bilgileri sağlar") 6. Kapsamlı DAVRANıŞ("Aracı sistemdeki olası boşlukları denetler ve eksiksiz bir yanıt sağlar") 7. Onaylayıcı DAVRANıŞ("Aracı, mevcut ilacı müşteriyle birlikte onaylar") 8. Çözüm odaklı DAVRANıŞ("Temsilci, müşteri için yeni reçeteyi doldurmayı teklif etti") 9. Nazik DAVRANıŞ("Temsilci müşteriye teşekkür ederiz ve gerekirse daha fazla yardım sunar") |
| Sistem iletisi | User | Yardımcı |
|---|---|---|
| İnsanların bilgi bulmasına yardımcı olan bir yapay zeka yardımcısısınız. | Aşağıdaki haber başlıklarını, metin içinde görülen desenlere göre konu kategorileri halinde kümeleyin. Ayrıca bu kategorilerin nasıl tanımlandığının ardındaki mantıktan da bahsedin. Çıkış biçimi: { "TOPIC_NAME": "", "BAŞLıKLAR": [], "REASONING": "" } Haber başlıklarını girdi: 1. "AR + ML ile kitaplardan 10'larda sunulara" 2. "32 yaşındaki Yann LeCun'un 1993'ten itibaren, Metin Tanıma için Dünyanın ilk Convolutional Network'ünün tanıtımı" 3. "Tablolara animasyon eklemek için ilk sipariş hareket modeli uygulandı" 4. "Robinhood ve diğer aracılar kelimenin tam anlamıyla $GME, $NOK, $BB $AMC satın alımını engelliyor; satışlara izin ver" 5. "United Airlines hisse senedi % 5'in üzerinde satış öncesi ticaret" Çıktı: |
{ "ARTIFICIAL_INTELLIGENCE": { "MANŞETLER": [ "AR + ML ile kitaplardan 10'larda sunulara", "32 yaşındaki Yann LeCun'un 1993'te dünyanın ilk Metin Tanıma Konvolutional Network'ünün tanıtımı", "Tablolara animasyon eklemek için uygulanan First Order Motion Model" ], "REASONING": "Bu başlıklar yapay zeka, makine öğrenmesi ve çeşitli alanlardaki uygulamalarıyla ilgilidir." }, "FINANCIAL_MARKETS": { "MANŞETLER": [ "Robinhood ve diğer aracılar kelimenin tam anlamıyla $GME, $NOK, $BB $AMC satın alımını engelliyor; satışlara izin ver", "United Airlines hisse senedi %5'in üzerinde satış öncesi ticaret", "Bitcoin bugün bir yıl önce yaklaşık 20.000 dolardaydı" ], "MANTıK": "Bu başlıklar finansal piyasalar, hisse senetleri, kripto para birimleri ve ticaret platformlarıyla ilgilidir." } } |
Sıcaklık ve Top_p parametreleri
Sıcaklık parametresinin değiştirilmesi modelin çıkışını değiştirir. Sıcaklık parametresi 0 ile 2 arasında ayarlanabilir. Daha yüksek bir değer, örneğin 0,7 çıkışı daha rastgele hale getirir ve daha farklı yanıtlar üretirken, örneğin daha düşük bir değer oluşturur. 0.2, çıkışı daha odaklanmış ve somut hale getirir. Daha yüksek bir sıcaklık kullanılarak kurgusal bir hikaye oluşturulabilir. Ancak yasal bir belge oluşturmak için çok daha düşük bir sıcaklık kullanılması önerilir. Top_probability başka bir parametredir ve Model yanıtının rastgeleliğini de denetlediği için Sıcaklık'a benzer, ancak bunu farklı bir şekilde yapar. Genel öneri, her ikisini birden değil, bu iki parametreden birini aynı anda değiştirmektir.
Topraklama bağlamı sağlama
Güvenilir yanıtlar sağlamanın en etkili yollarından biri, yanıtlarını almak için model verilerini vermektir (topraklama verileri). Kullanım örneğiniz güncel, güvenilir bilgilere dayalıysa ve yalnızca yaratıcı bir senaryo değilse, temel veri sağlamanızı kesinlikle öneririz. Genel olarak, kaynak malzemenizi istediğiniz yanıtın son biçimine ne kadar yakın olursa, modelin yapması gereken iş o kadar az olur ve bu da hata için daha az fırsat olduğu anlamına gelir. Burada, sistemin Azure OpenAI Hizmeti'nde GPT-4'ün başlatılmasını açıklayan ve ilk müşterilerinden bazılarını adlandırması istenen yeni bir blogun sağlandığı bir örnek verilmiştir.
| Sistem iletisi | User | Yardımcı |
|---|---|---|
| İnsanların bilgi bulmasına yardımcı olan bir yapay zeka yardımcısısınız. Yalnızca aşağıdaki metinlerden yanıtlar sağlayacak ve 100 veya daha az sözcükle yanıtlayacaksınız: "Microsoft'ta, daha fazla kişinin yapay zekadan yararlanabilmesi için yaratıcılığı ortaya çıkarmanın, üretkenliğin kilidini açmanın ve üst düzey becerilerin ortaya çıkması için sürekli yeni yollar keşfediyoruz. Bu, müşterilerimizin ... … böylece modelin zararlı bir yanıt oluşturma olasılığını azaltır."1 100 veya daha az sözcükle yanıtlayın. Madde işareti listelerini mümkün olan her yerde kullanın. |
Azure OpenAI Service GPT-4 modellerinin ilk müşterilerinden bazıları kimlerdir? | Azure OpenAI Service GPT-4 modellerinin ilk müşterilerinden bazıları şunlardır: - Epic Healthcare: Hekimlerin ve hemşirelerin veri girişi ve araştırma için daha az zaman harcamasına yardımcı olmak için GPT-4 kullanmayı planlıyorlar. - Coursera: Platformlarında yapay zeka destekli yeni bir öğrenme deneyimi oluşturmak için GPT-4 ile Azure OpenAI Hizmeti'ni kullanıyorlar. - Coca-Cola: Bir bilgi merkezi oluşturmak için Azure OpenAI kullanıyorlar ve GPT-4'ün pazarlama, reklam, halkla ilişkiler ve müşteri ilişkilerine yönelik çok modüllü özelliklerinden yararlanmayı planlıyorlar. - Her büyüklükteki diğer şirketler müşteri deneyimlerini geliştirmek, uzun biçimli içeriği özetlemek, yazılım yazmaya yardımcı olmak ve doğru vergi verilerini tahmin ederek riski azaltmak için Azure AI kullanıyor. |
En iyi yöntemler
- Belirli olun. Yorumlamaya olabildiğince az yer bırakın. İşletim alanını kısıtlayın.
- Açıklayıcı olun. Benzetmeler kullanın.
- İki Kez Aşağı. Bazen modelde kendinizi tekrarlamanız gerekebilir. Birincil içeriğinizden önce ve sonra yönergeler verin, bir yönerge ve ipucu vb. kullanın.
- Sipariş Önemli. Modele bilgi sunma sırası çıkışı etkileyebilir. İçeriğinizin önüne ("aşağıdakileri özetle...") veya sonra ("yukarıdakileri özetle"), çıkışta bir fark oluşturabilir. Birkaç örnek çekimin sırası bile önemli olabilir. Buna yakınlık yanlılığı adı verilir.
- Modele bir "out" verin. Atanan görevi tamamlayamıyorsa modele alternatif bir yol vermek bazen yararlı olabilir. Örneğin, bir metin parçası üzerinden soru sorarken "yanıt yoksa "bulunamadı" ile yanıt verme" gibi bir şey ekleyebilirsiniz. Bu, modelin yanlış yanıtlar oluşturmasını önlemeye yardımcı olabilir.
Alan verimliliği
Her yeni nesil GPT modelinde giriş boyutu artsa da modelin işleyebileceğinden daha fazla veri sağlayan senaryolar olmaya devam edecektir. GPT modelleri sözcükleri "belirteçlere" ayırır. Ortak çok heceli sözcükler genellikle tek bir belirteç olsa da, hecelerde daha az kullanılan sözcükler bozuktur. Belirteçler, farklı tarih biçimleri için belirteç sınırlarını gösteren aşağıdaki örnekte gösterildiği gibi bazen sezgisel karşıt olabilir. Bu durumda, tüm ay boyunca yazım denetimi yapmak, tam sayısal bir tarihten daha verimli bir alan sağlar. Geçerli belirteç desteği aralığı, önceki GPT-3 modellerine sahip 2.000 belirteçten en son GPT-4 modelinin 32k sürümüne sahip 32.768 belirteçe kadar çıkar.
Bu sınırlı alan göz önüne alındığında, mümkün olduğunca verimli bir şekilde kullanmak önemlidir.
- Tablolar – Önceki bölümdeki örneklerde gösterildiği gibi, GPT modelleri tablo biçimindeki verileri oldukça kolay anlayabilir. Bu, her alanın önüne adla (JSON gibi) geçmek yerine verileri eklemek için alan açısından verimli bir yol olabilir.
- Boşluk : Ardışık boşluklar, alanı boşa harcamanın kolay bir yolu olabilecek ayrı belirteçler olarak ele alınıyor. Öte yandan, sözcüğün önündeki boşluklar genellikle sözcükle aynı belirtecin parçası olarak değerlendirilir. Boşluk kullanımınızı dikkatle izleyin ve yalnızca bir alanın yapacağı noktalama işaretlerini kullanmayın.
İlgili içerik
- Azure OpenAI hakkında daha fazla bilgi edinin.
- ChatGPT hızlı başlangıcı ile ChatGPT modelini kullanmaya başlayın.
- Daha fazla örnek için Azure OpenAI Örnekleri GitHub deposuna göz atın