Whitepaper Companion Podcast - Prompt Engineering
Read the whitepaper here: https://www.kaggle.com/whitepaper-prompt-engineering
Learn more about the 5-Day Generative AI Intensive: https://rsvp.withgoogle.com/events/google-generative-ai-intensive_2025q1
Introduction:
When thinking about a large language model input and output, a text prompt (sometimes accompanied by other modalities such as image prompts) is the input the model uses to predict a specific output. You don’t need to be a data scientist or a machine learning engineer – everyone can write a prompt. However, crafting the most effective prompt can be
complicated. Many aspects of your prompt affect its efficacy: the model you use, the model’s training data, the model configurations, your word-choice, style and tone, structure, and context all matter. Therefore, prompt engineering is an iterative process. Inadequate prompts can lead to ambiguous, inaccurate responses, and can hinder the model’s ability to provide meaningful output.
When you chat with the Gemini chatbot, you basically write prompts, however this whitepaper focuses on writing prompts for the Gemini model within Vertex AI or by using the API, because by prompting the model directly you will have access to the configuration such as temperature etc.
This whitepaper discusses prompt engineering in detail. We will look into the various prompting techniques to help you getting started and share tips and best practices to become a prompting expert. We will also discuss some of the challenges you can face while crafting prompts.
Install Tubelator On Chrome
Video Summary & Chapters
No chapters for this video generated yet.
Video Transcript
خوب، خوش آمدید به غوطه ور عمیق. امروز ما در حال غوطه ور شدن در دنیای شگفت انگیز از فوری
مهندسی. شما می دانید، این هنر به دست آوردن مدل های زبان بزرگ به انجام دقیقا آنچه شما می خواهید آنها
و این واقعا یک هنر است، نه؟ منظورم این است که هر کسی می تواند یک پیشنهاد درست بنویسد، اما واقعا
این LLM ها را آواز می خوانند، به ویژه برای مردم Kaggle ما در خارج از کشور که با کد و پیچیده برخورد می کنند.
داده ها، خوب، این جایی است که مهارت واقعی وارد می شود. کاملا. بنابراین اگر شما یک Kaggler و شما
تلاش برای تولید کد قاتل، squash آن bugs کثیف،
با راه حل های نوآورانه همراه باشید.
این چیزی است که امروز روی آن تمرکز می کنیم.
ما در اینجا یک کاغذ سفید فوق العاده داریم.
که ما می خواهیم از بین بریم، با برداشتن عملی ترین
تکنولوژی قدرتمند
تکنیک هایی که می توانید برای ارتقاء بازی Kaggle خود استفاده کنید.
مأموریت ما روشن است.
برای تجهیز شما با روش های مهندسی سریع شما نیاز به موفقیت.
ما اصول را پوشش می دهیم، اما پس از آن ما عمیق می شویم، تکنیک هایی مانند
زنجیره ی تفکر و واکنش
و ما تمام این کار را از طریق لنز چالش های روزمره Kaggle شما انجام خواهیم داد.
بنابراین این فقط یک نظریه نیست، این در مورد ارائه به شما ابزارهایی است که می توانید بلافاصله به
در رقابت های خود کار کنید.
کامل است.
اکنون، قبل از اینکه حتی شروع به ساخت این پیشنهاد های شگفت انگیز کنیم، باید در مورد چیزی اساسی صحبت کنیم.
تنظیم خروجی LLM. این فقط چیزی نیست که شما وارد کنید، این است که چگونه شما شکل آنچه را که بیرون می آید.
درست، و شما یک مقدار شگفت انگیز از کنترل در اینجا دارید. بیایید با طول خروجی شروع کنیم،
که ممکن است ساده به نظر برسد، اما تعداد توکن هایی که مدل تولید می کند به طور مستقیم تاثیر می گذارد.
هزینه های زمان پردازش.اینها نگرانی های دنیای واقعی هستند، به ویژه در یک لپ تاپ Kaggle.
بله، اگر شما به این محدودیت های خروجی Kaggle ضربه می زنید یا به یک پاسخ سریع نیاز دارید،
فقط تنظیم یک محدودیت توکن پایین در پیکربندی مدل ممکن است آن را قطع نکند.
گاهی اوقات شما نیاز به مهندس درخواست خود را برای هدف بیشتر به دست آوردن یک پاسخ مختصر،
مانند تکنیک React که در آن شما هدف از اقدامات تکراری سریع است.
خوب، بیایید به کنترل های نمونه برداری برویم.
حالا این جایی است که چیزها واقعا جالب می شوند.
ما در مورد چگونگی LLM در واقع کلمه بعدی را بر اساس احتمال انتخاب می کنیم.
شما آن را دریافت کرده اید. و چگونه ما نمونه از این احتمالات می تواند به طور چشمگیری تغییر آنچه که ما به دست می آوریم.
خوب، بنابراین بیایید آن را از بین ببریم. این درجه حرارت همه چیز در مورد چیست؟
در مورد دمای مانند یک دیالی که تصادفی را کنترل می کند فکر کنید.
دمای پایین مدل را به سمت کلمات احتمالی فشار می دهد، بنابراین شما قابل پیش بینی می شود،
خروجی تعیین کننده. تقریبا مانند گرفتن بهترین حدس از مدل است.
بنابراین اگر من نیاز به تولید برخی از کد بسیار خاص برای هسته Kaggle من،
مانند وارد کردن یک کتابخانه با سنتکس درست، دمای پایین احتمالا همان چیزی است که من می خواهم.
شما نمی خواهید که LLM با بیانیه پاندا واردات خود را بیش از حد خلاق شود.
نه، قطعا نه.اما گاهی اوقات کمی خلاقیت دقیقا همان چیزی است که شما در Kaggle نیاز دارید.
قطعا. این جایی است که درجه حرارت بالاتر وارد می شود. آن را تصادفی بیشتری معرفی می کند، بنابراین
شما نتایج متنوع تر و غیر منتظره را دریافت می کنید. شما می توانید از این برای ویژگی های جدید Brainstorm استفاده کنید
یا کشف الگوریتم های مختلف، آنهایی که چه-اگر لحظات می تواند یک پیشرفت را در شما ایجاد کند.
پروژه Kaggle
این واقعا خنک است. بنابراین سرعت پایین برای دقت در کد من، سرعت بالا برای کشف جدید
ایده ها. آن را گرفت. حالا چه در مورد بالا K و بالا P؟ این به نظر می رسد راه برای ادامه
خوب است که فرآیند انتخاب کلمه. آنها هستند. هر دو بالا K و بالا P، همچنین
به عنوان نمونه سازی هسته ای شناخته شده، محدود کردن کلمه بعدی به تنها احتمالی ترین
متقاضیان. با بالا K، شما اساسا می گویید فقط در نظر گرفتن بالا
Video Summary & Chapters
No chapters for this video generated yet.
Video Transcript
خوب، خوش آمدید به غوطه ور عمیق. امروز ما در حال غوطه ور شدن در دنیای شگفت انگیز از فوری
مهندسی. شما می دانید، این هنر به دست آوردن مدل های زبان بزرگ به انجام دقیقا آنچه شما می خواهید آنها
و این واقعا یک هنر است، نه؟ منظورم این است که هر کسی می تواند یک پیشنهاد درست بنویسد، اما واقعا
این LLM ها را آواز می خوانند، به ویژه برای مردم Kaggle ما در خارج از کشور که با کد و پیچیده برخورد می کنند.
داده ها، خوب، این جایی است که مهارت واقعی وارد می شود. کاملا. بنابراین اگر شما یک Kaggler و شما
تلاش برای تولید کد قاتل، squash آن bugs کثیف،
با راه حل های نوآورانه همراه باشید.
این چیزی است که امروز روی آن تمرکز می کنیم.
ما در اینجا یک کاغذ سفید فوق العاده داریم.
که ما می خواهیم از بین بریم، با برداشتن عملی ترین
تکنولوژی قدرتمند
تکنیک هایی که می توانید برای ارتقاء بازی Kaggle خود استفاده کنید.
مأموریت ما روشن است.
برای تجهیز شما با روش های مهندسی سریع شما نیاز به موفقیت.
ما اصول را پوشش می دهیم، اما پس از آن ما عمیق می شویم، تکنیک هایی مانند
زنجیره ی تفکر و واکنش
و ما تمام این کار را از طریق لنز چالش های روزمره Kaggle شما انجام خواهیم داد.
بنابراین این فقط یک نظریه نیست، این در مورد ارائه به شما ابزارهایی است که می توانید بلافاصله به
در رقابت های خود کار کنید.
کامل است.
اکنون، قبل از اینکه حتی شروع به ساخت این پیشنهاد های شگفت انگیز کنیم، باید در مورد چیزی اساسی صحبت کنیم.
تنظیم خروجی LLM. این فقط چیزی نیست که شما وارد کنید، این است که چگونه شما شکل آنچه را که بیرون می آید.
درست، و شما یک مقدار شگفت انگیز از کنترل در اینجا دارید. بیایید با طول خروجی شروع کنیم،
که ممکن است ساده به نظر برسد، اما تعداد توکن هایی که مدل تولید می کند به طور مستقیم تاثیر می گذارد.
هزینه های زمان پردازش.اینها نگرانی های دنیای واقعی هستند، به ویژه در یک لپ تاپ Kaggle.
بله، اگر شما به این محدودیت های خروجی Kaggle ضربه می زنید یا به یک پاسخ سریع نیاز دارید،
فقط تنظیم یک محدودیت توکن پایین در پیکربندی مدل ممکن است آن را قطع نکند.
گاهی اوقات شما نیاز به مهندس درخواست خود را برای هدف بیشتر به دست آوردن یک پاسخ مختصر،
مانند تکنیک React که در آن شما هدف از اقدامات تکراری سریع است.
خوب، بیایید به کنترل های نمونه برداری برویم.
حالا این جایی است که چیزها واقعا جالب می شوند.
ما در مورد چگونگی LLM در واقع کلمه بعدی را بر اساس احتمال انتخاب می کنیم.
شما آن را دریافت کرده اید. و چگونه ما نمونه از این احتمالات می تواند به طور چشمگیری تغییر آنچه که ما به دست می آوریم.
خوب، بنابراین بیایید آن را از بین ببریم. این درجه حرارت همه چیز در مورد چیست؟
در مورد دمای مانند یک دیالی که تصادفی را کنترل می کند فکر کنید.
دمای پایین مدل را به سمت کلمات احتمالی فشار می دهد، بنابراین شما قابل پیش بینی می شود،
خروجی تعیین کننده. تقریبا مانند گرفتن بهترین حدس از مدل است.
بنابراین اگر من نیاز به تولید برخی از کد بسیار خاص برای هسته Kaggle من،
مانند وارد کردن یک کتابخانه با سنتکس درست، دمای پایین احتمالا همان چیزی است که من می خواهم.
شما نمی خواهید که LLM با بیانیه پاندا واردات خود را بیش از حد خلاق شود.
نه، قطعا نه.اما گاهی اوقات کمی خلاقیت دقیقا همان چیزی است که شما در Kaggle نیاز دارید.
قطعا. این جایی است که درجه حرارت بالاتر وارد می شود. آن را تصادفی بیشتری معرفی می کند، بنابراین
شما نتایج متنوع تر و غیر منتظره را دریافت می کنید. شما می توانید از این برای ویژگی های جدید Brainstorm استفاده کنید
یا کشف الگوریتم های مختلف، آنهایی که چه-اگر لحظات می تواند یک پیشرفت را در شما ایجاد کند.
پروژه Kaggle
این واقعا خنک است. بنابراین سرعت پایین برای دقت در کد من، سرعت بالا برای کشف جدید
ایده ها. آن را گرفت. حالا چه در مورد بالا K و بالا P؟ این به نظر می رسد راه برای ادامه
خوب است که فرآیند انتخاب کلمه. آنها هستند. هر دو بالا K و بالا P، همچنین
به عنوان نمونه سازی هسته ای شناخته شده، محدود کردن کلمه بعدی به تنها احتمالی ترین
متقاضیان. با بالا K، شما اساسا می گویید فقط در نظر گرفتن بالا
Video Summary & Chapters
No chapters for this video generated yet.
Video Transcript
خوب، خوش آمدید به غوطه ور عمیق. امروز ما در حال غوطه ور شدن در دنیای شگفت انگیز از فوری
مهندسی. شما می دانید، این هنر به دست آوردن مدل های زبان بزرگ به انجام دقیقا آنچه شما می خواهید آنها
و این واقعا یک هنر است، نه؟ منظورم این است که هر کسی می تواند یک پیشنهاد درست بنویسد، اما واقعا
این LLM ها را آواز می خوانند، به ویژه برای مردم Kaggle ما در خارج از کشور که با کد و پیچیده برخورد می کنند.
داده ها، خوب، این جایی است که مهارت واقعی وارد می شود. کاملا. بنابراین اگر شما یک Kaggler و شما
تلاش برای تولید کد قاتل، squash آن bugs کثیف،
با راه حل های نوآورانه همراه باشید.
این چیزی است که امروز روی آن تمرکز می کنیم.
ما در اینجا یک کاغذ سفید فوق العاده داریم.
که ما می خواهیم از بین بریم، با برداشتن عملی ترین
تکنولوژی قدرتمند
تکنیک هایی که می توانید برای ارتقاء بازی Kaggle خود استفاده کنید.
مأموریت ما روشن است.
برای تجهیز شما با روش های مهندسی سریع شما نیاز به موفقیت.
ما اصول را پوشش می دهیم، اما پس از آن ما عمیق می شویم، تکنیک هایی مانند
زنجیره ی تفکر و واکنش
و ما تمام این کار را از طریق لنز چالش های روزمره Kaggle شما انجام خواهیم داد.
بنابراین این فقط یک نظریه نیست، این در مورد ارائه به شما ابزارهایی است که می توانید بلافاصله به
در رقابت های خود کار کنید.
کامل است.
اکنون، قبل از اینکه حتی شروع به ساخت این پیشنهاد های شگفت انگیز کنیم، باید در مورد چیزی اساسی صحبت کنیم.
تنظیم خروجی LLM. این فقط چیزی نیست که شما وارد کنید، این است که چگونه شما شکل آنچه را که بیرون می آید.
درست، و شما یک مقدار شگفت انگیز از کنترل در اینجا دارید. بیایید با طول خروجی شروع کنیم،
که ممکن است ساده به نظر برسد، اما تعداد توکن هایی که مدل تولید می کند به طور مستقیم تاثیر می گذارد.
هزینه های زمان پردازش.اینها نگرانی های دنیای واقعی هستند، به ویژه در یک لپ تاپ Kaggle.
بله، اگر شما به این محدودیت های خروجی Kaggle ضربه می زنید یا به یک پاسخ سریع نیاز دارید،
فقط تنظیم یک محدودیت توکن پایین در پیکربندی مدل ممکن است آن را قطع نکند.
گاهی اوقات شما نیاز به مهندس درخواست خود را برای هدف بیشتر به دست آوردن یک پاسخ مختصر،
مانند تکنیک React که در آن شما هدف از اقدامات تکراری سریع است.
خوب، بیایید به کنترل های نمونه برداری برویم.
حالا این جایی است که چیزها واقعا جالب می شوند.
ما در مورد چگونگی LLM در واقع کلمه بعدی را بر اساس احتمال انتخاب می کنیم.
شما آن را دریافت کرده اید. و چگونه ما نمونه از این احتمالات می تواند به طور چشمگیری تغییر آنچه که ما به دست می آوریم.
خوب، بنابراین بیایید آن را از بین ببریم. این درجه حرارت همه چیز در مورد چیست؟
در مورد دمای مانند یک دیالی که تصادفی را کنترل می کند فکر کنید.
دمای پایین مدل را به سمت کلمات احتمالی فشار می دهد، بنابراین شما قابل پیش بینی می شود،
خروجی تعیین کننده. تقریبا مانند گرفتن بهترین حدس از مدل است.
بنابراین اگر من نیاز به تولید برخی از کد بسیار خاص برای هسته Kaggle من،
مانند وارد کردن یک کتابخانه با سنتکس درست، دمای پایین احتمالا همان چیزی است که من می خواهم.
شما نمی خواهید که LLM با بیانیه پاندا واردات خود را بیش از حد خلاق شود.
نه، قطعا نه.اما گاهی اوقات کمی خلاقیت دقیقا همان چیزی است که شما در Kaggle نیاز دارید.
قطعا. این جایی است که درجه حرارت بالاتر وارد می شود. آن را تصادفی بیشتری معرفی می کند، بنابراین
شما نتایج متنوع تر و غیر منتظره را دریافت می کنید. شما می توانید از این برای ویژگی های جدید Brainstorm استفاده کنید
یا کشف الگوریتم های مختلف، آنهایی که چه-اگر لحظات می تواند یک پیشرفت را در شما ایجاد کند.
پروژه Kaggle
این واقعا خنک است. بنابراین سرعت پایین برای دقت در کد من، سرعت بالا برای کشف جدید
ایده ها. آن را گرفت. حالا چه در مورد بالا K و بالا P؟ این به نظر می رسد راه برای ادامه
خوب است که فرآیند انتخاب کلمه. آنها هستند. هر دو بالا K و بالا P، همچنین
به عنوان نمونه سازی هسته ای شناخته شده، محدود کردن کلمه بعدی به تنها احتمالی ترین
متقاضیان. با بالا K، شما اساسا می گویید فقط در نظر گرفتن بالا
