tkの読書日記

『教養の人類史 ヒトは何を考えてきたか?』水谷千秋 文春新書

著者は日本古代史が専門。人類の進化、神話・宗教・文明の誕生、精神革命、人類史の構造、現代史といったテーマを概観している。 司馬遼太郎は太平洋戦争中に兵役につき、なぜ日本がこのような戦争を起こしてしまったのか、国民の生命を軽視する陸軍がどうして生まれたのかという疑問に答えるために、終生学び続けた。 神話は、この世界がいかにして生まれたのか、我々人間がこの世界でいかに生きて行くべきかを教えてくれ…

2024/11/26 23:45

『大規模言語モデルは新たな知能か ChatGPTが変えた世界』岡野原大輔 岩波科学ライブラリー

やや難解だが、長期記憶やメタ学習が実現されていることを説明した部分は読みごたえがあった。 chatGPTが学習した情報の量は1兆文字、書籍で1000万冊相当分。 1948年、シャノンは情報量（情報エントロピー）と呼ばれる概念を導入した。ある情報がどれだけ予想していない驚くべき情報かを表し、起こりにくい事象が起きた場合は情報量が大きくなる。この情報理論によって、情報を数学的な枠組みの中で扱えるようになった。 …

2024/11/21 23:45