**softmax 溫度：** 采樣過程中控制隨機性的大小，我們引入一個叫作**softmax 溫度**（softmax temperature）的參數，用于表示采樣概率分布的熵，即表示所選擇的下一個字符會有多么出人意料或多么可預測。  **訓練語言模型并從中采樣：** 1. 給定目前已生成的文本，從模型中得到下一個字符的概率分布。 2. 根據某個溫度對分布進行重新加權。 3. 根據重新加權后的分布對下一個字符進行隨機采樣。 4. 將新字符添加到文本末尾。 **采樣函數**（sampling function）： ~~~ def sample(preds, temperature=1.0): preds = np.asarray(preds).astype('float64') preds = np.log(preds) / temperature exp_preds = np.exp(preds) preds = exp_preds / np.sum(exp_preds) probas = np.random.multinomial(1, preds, 1) return np.argmax(probas) ~~~