What is Retrieval-Augmented Generation (RAG)?
Ready to become a certified GenAI engineer? Register now and use code IBMTechYT20 for 20% off of your exam → https://ibm.biz/BdGhCF
Learn about the technology → https://ibm.biz/BdMsRT
Large language models usually give great answers, but because they're limited to the training data used to create the model. Over time they can become incomplete--or worse, generate answers that are just plain wrong. One way of improving the LLM results is called "retrieval-augmented generation" or RAG. In this video, IBM Senior Research Scientist Marina Danilevsky explains the LLM/RAG framework and how this combination delivers two big advantages, namely: the model gets the most up-to-date and trustworthy facts, and you can see where the model got its info, lending more credibility to what it generates.
Get weekly AI, cloud, security and sustainability industry news, events and insights. → https://ibm.biz/BdK6UY
Install Tubelator On Chrome
Video Summary & Chapters
No chapters for this video generated yet.
Video Transcript
Büyük dil modelleri, her yerde vardır.
Bazı şeyleri inanılmaz derecede doğru ve diğerleri çok ilginç yanlış.
Benim adım Marina Danilevsky.
Ben burada IBM Research'te üst düzey bir araştırma bilimcisiyim,
ve size büyük dil modelleri yardımcı olmak için bir çerçeveden bahsetmek istiyorum
Daha doğru ve daha güncel olmak.
Artırılmış nesil veya RAG.
Sadece bir dakika için nesil parçası hakkında konuşalım.
Artırılmış geri dönüşü unutun.
Yani, nesil, bu cevap olarak metin oluşturan büyük dil modelleri veya LLM'leri ifade eder.
Bir kullanıcı sorgusu olarak adlandırılan bir kullanıcı sorgusu.
Bu modeller bazı istenmeyen davranışlara sahip olabilir.
Size bir anekdoti anlatmak istiyorum.
Bunu göstermek için.
Benim çocuklarım, son zamanlarda bana bu soruyu sordular,
Güneş sistemimizde hangi gezegenin en çok ayları vardır?
Ve benim cevabım, oh, bu gerçekten harika
Bana bu soruyu sormak istiyorsun.
Ben senin yaşındayken uzayı sevdim.
Elbette 30 yıl önce gibiydi ama bunu biliyorum.
Bir yazıyı okudum ve yazıyı söyledi
Jüpiter ve 88 ay vardı.
Bu yüzden cevabı budur.
Aslında bazı yanlış şeyler var.
Benim cevabımla.
Öncelikle söylediklerimi destekleyecek bir kaynağım yok.
Yani güvenle söyleyeyim, bir makale okumuştum,
Cevabını biliyorum, onu almadım.
Cevabı kafamın üstünden verdim.
Aslında bu konuda bir süre kalmadım.
Benim cevabım tarihten çıkıyor.
Burada iki sorun var.
Bir kaynağı değildir.
İkinci sorunu ise tarihten çıkmadığımdır.
Aslında bu iki davranıştır.
Çoğu zaman büyük bir dille etkileşimde sorunlu olarak görülür.
modelleri. Onlar LLM zorlukları. Şimdi bir alsam ne olurdu
vurdu ve ilk gitti ve NASA gibi saygın bir kaynağı üzerinde cevabı inceledi mi?
Evet o zaman söyleyebilirdim ah tamam bu yüzden cevabı Saturn ile bir
Yüz kırk altı ay ve aslında bu değişmeye devam ediyor çünkü bilim adamları
gittikçe daha fazla ay keşfetmeye devam edin. bu yüzden şimdi cevabımı bir şeye dayanıyorum
daha inanılmaz. ben halüsinasyon yapmadım ya da bir cevap oluşturmadım. Oh, ve bu arada, ben yapmadım
Uzayla meşgul olduğumdan beri ne kadar önce olduğu hakkında kişisel bilgiler sızdı.
Tamam, bu yüzden büyük dil modelleri ile ne ilgisi var? Evet, nasıl büyük bir
dil modelini bu soruyu cevapladı mı? bu yüzden bir kullanıcı bu soruyu sormuş olduğunu söyleyelim
Aylar hakkında soru. büyük bir dil model konsonsuz olarak söyleyecek, tamam, ben var
eğitim aldı ve eğitim sırasında parametrelerimde bildiğim şeylerden, cevap
Jüpiter. Cevap yanlış, ama biliyorsun, biz bilmiyoruz. Büyük dil
Model çok güvenilir.
bu ve ne cevap verdi. şimdi bu retriever retriever retriever geri çekme artış eklediğinizde ne olur
