Temperature nedir?

Temperature yani sıcaklık, bir dil modelinin ürettiği yanıtların ne kadar rastgele ya da tahmin edilebilir olacağını belirleyen ayardır. Model her adımda bir sonraki tokenu seçerken olasılıklara bakar. Sıcaklık düşükse en olası seçeneğe sıkı sıkıya bağlı kalır ve tutarlı, kestirilebilir çıktılar verir. Sıcaklık yükseldikçe daha az olası kelimelere de şans tanır, bu da çıktıyı çeşitli ve yaratıcı ama zaman zaman tutarsız hale getirir.

Doğru değeri işin türü belirler. Bir hukuki özet, ürün açıklaması ya da veri çıkarımı gibi kesinlik isteyen görevlerde düşük sıcaklık tercih edilir. Reklam sloganı, blog taslağı ya da beyin fırtınası gibi çeşitlilik istenen yerlerde ise yüksek değer işe yarar.

Örneğin bir işletmenin sıkça sorulan sorular botunu kurarken sıcaklığı düşük tutmak, botun her seferinde aynı doğru cevabı vermesini sağlar. Prompt Mühendisliğinin temel araçlarından biridir ve fazla yükseltildiğinde Halüsinasyon eğilimini de artırır.