RLHF

PRAIが間違えるのは、学習データが不足しているからだ――そう思っている人は多い。だが実際は違う。AIが嘘をつくのは、「正しく答えるように」ではなく、「人間に好かれるように」設計されているからだ。この記事では、AIの学習構造そのものに踏み込...