teyoblogさんのプロフィール

【Kaggle挑戦記】MLB コンペ 31th 銀メダルでした【#10】

こんにちは 本日MLBコンペのprivateリーダーボードが確定されて無事初めての銀メダルを手にすることができました。 銀メダルはコンペティションマスターになる条件の1枚ですのでやっと一歩目を踏み出せたなという思いです。 取組内容 取組内容に関してはすでに記事になっているので下記記事を参考にしてください。 teyoblog.hatenablog.com ちょっとだけ考察 本コンペは締切が7/31で、8/1以降のデータをprivate testデータとしてhostが頑張ってデータを作って評価を行う形式でした。 実際には10日おきくらいでそれまでの10日分、20日分、30日分のデータでスコアの計算…

【30日チャレンジ】早起き【2021年8月】

こんにちは、以前から気になってた30日チャレンジというものを8月2日から今日までの30日でやってみました。 30日チャレンジとは www.ted.com 動画は3分くらいなので見たほうが早いですが、30日だけなにかに挑戦してみれば30日チャレンジです。 半年くらい前ツイッターで見かけてずっと気になっていて、ふとこれ挑戦したいなと思うことがあったので始めてみました。 何をしたか 早起きをしました。Youtubeで早起きに関する動画*1 を見たのがきっかけです。副効果も大きいと思ったのでこれに決めました。 余談ですが動画の女の子の目と声が結構好き。 取り組み方 目標時間は5時半に起きる（そのために…

【PyTorch Lightning】checkpointをロードするのに躓いたことメモ

こんにちは 最近PyTorch Lightningで学習をし始めてcallbackなどの活用で任意の時点でのチェックポイントを保存できるようになりました。 save_weights_only=Trueと設定したの今まで通りpure pythonで学習済み重みをLoadして推論できると思っていたのですが、どうもその認識はあっていなかったようで苦労しました。今回は学習済みの重みで予測するところまで進めようと思います。 ※ちなみにsave_weights_onlyのTrueとFalseは全く違う設定のようです 結論 結論としては下記の2つの方法ができそうだなと思いました。 学習時のLightning…

データサイエンス100本ノックを完走した【Google Colab】

こんにちは コツコツと進めてたデータサイエンス100本ノックですが遂に完走できました。 今回は下記サイトを参考に（というか提供されてるnoteをもらって）Google Colabで全て行いました。興味ある方はノートパソコンでも全てできます。一部ライブラリのバージョンの差か何かでdatetimeの処理が違っていた気がしますがそこら編は私のnoteを貼っておくのでご参考ください。 qiita.com 下記私が100問解いたノートです。一部コメントなどが入ってます。 colab.research.google.com 感想というのも大げさですがこの100本ノックのおかげでMLBコンペでdatafra…

【未完】PyTorch LightningとWeights & Biasesを使った画像タスクパイプラインを作成し始めた

こんにちは 2021年の夏の連休も2021年に引き続きほぼ予定がなかったので、何らかのコンペに充てる気満々だったのですが、いろんな要因で時間を捧げるコンペはありませんでした。 コンペはしてなかったのですが、PyTorch LightningとWeights & Biases を使った画像タスクのパイプライン作成をしていました。いままではそういった物は持ってなくて最初のサブまでとても時間がかかっていたので、パイプラインをいじって学習して推論して初サブまでが早くなればいいと思っています。 今回は作ったものを載せつつ自分用のメモを書いていこうと思います。間違いや改善点ありましたらご指摘ください。 C…

【Kaggle挑戦記】MLB コンペ振り返り【#10】

こんにちは。 2021/6/10-2021/7/31 の期間で開催されていたMLB Player Digital Engagement Forecastingというコンペに参加してきました。取組期間は6/29-8/1の約一ヶ月です。結果は2021/9/15に決まるのでまだどうなったかはわかりません。 今回はコンペ中に気になったこととそれに対してやったこと（殆どは何もわからんで対策できず）について書きます。 また、他の参加者がどう考えてたのか、本質は何だったのか聞く機会があればいいなーと思っています。 コンペページ MLB Player Digital Engagement Forecastin…

【Kaggle挑戦記】Coleridge Initiative コンペ振り返り【#9】

※このページにはColeridgeコンペで良スコアを出す方法は書かれていません。初めて自然言語タスクに挑戦したのでその記録です。 概要 科学論文（英文）の中から、使用しているデータセットについて言及している箇所を抽出してくるというのが本コンペのタスク 論文内でTypoがあればTypoをそのまま抽出する 評価値はJaccard係数ベースのFBetaスコアで評価 9 Distance Measures in Data Scienceで見た名前だったのでちょっと嬉しかった clean_textを通して文字列の規格をそろえて評価させる python def clean_text(txt): retur…

【Kaggle挑戦記】鳥コンペ2(BirdCLEF 2021)銅メダル振り返り【#8】

こんにちは 先日終了した鳥コンペ2に参加してきました。 結果はpublic41位からprivate66位で目標としていた銀メダル以上を取ることはできませんでした。 本コンペではTakamichi Todaさんと、shinmura0さんのチームに途中から仲間にしてもらいチームでの取り組みとなりました。この記事では自分がやってたCNN部分の取組内容を書いていきます。 自分がCNNで進めていた理由は過去の鳥コンペと、鳥蛙コンペでの上位solutionで使われており、十分戦えると判断したためです。SEDについて全然わからないのでもっと積極的に教えてもらいに行けばよかったと後悔している・・・。 コンペ概…

ヨーロッパ旅行記⑦[プラハ観光]

はじめに この旅行記は昔したヨーロッパ旅行の記録です。 1週間ほどかけてドイツ、チェコ、オーストリアを周遊しました。 できる限り自分が見たい旅行記に近づけるようにがんばって書いています。ここが良い、これがほしいありましたらご意見待ってます。 バックナンバー ヨーロッパ旅行記①[出発～フランクフルト] ヨーロッパ旅行記②[フランクフルト～ローテンブルク～フュッセン] ヨーロッパ旅行記③[ノイシュバンシュタイン城～フュッセン市街地] ヨーロッパ旅行記④[ミュンヘン] ヨーロッパ旅行記⑤[チェスキークロムロフ] ヨーロッパ旅行記⑥[プラハ] 今回の旅程 今回は5日目、チェコのプラハ観光です。 宿泊地…

【Kaggle挑戦記】バスケコンペでメダル拾えるかと思ったらそんな甘い話なかった【#7】

こんにちは！役立たずてよです！ 自分で役立たずとは言いつつも、「まぁそこまででもないっしょ！」と思っていました。 でも、今回のバスケコンペで................... こんにちは、kaggleのバスケコンペに参加してきました。 March Machine Learning Mania 2021 - NCAAM March Machine Learning Mania 2021 - NCAAW NCAAはNational Collegiate Athletic Associationの略で全米大学体育協会という意味です。そのなかのバスケットボール男子/女子の大会の結果を予測するという…

【本読んだ】機械学習のエッセンス

機械学習のエッセンス -実装しながら学ぶPython,数学,アルゴリズム- (Machine Learning)作者:加藤 公一発売日: 2018/09/21メディア: 単行本 こんにちは その道の人？がプッシュしていた1ので、購入して写経しながら読みました。 下記に自分の感想とは書きますが、この本の良さについてはプッシュされてる記事を読むほうが参考になります。（断言） 内容 学習の前に Pythonの基本 機械学習に必要な数学 Pythonによる数値計算とデータの可視化 機械学習のアルゴリズム 最終的にPythonで機械学習アルゴリズムを実装していくため、Pythonの基本的な部分を勉強する…

【本読んだ】Kaggleコンペティション チャレンジブック

こんにちは 昨年末に発売された「Kaggleコンペティション チャレンジブック」を買って、スタバとかでゆっくり読み進めてようやく読み終わりました。 Kaggleコンペティション チャレンジブック作者:Jung Kweon Woo発売日: 2020/12/28メディア: 単行本（ソフトカバー） 実際にkaggleでメダルを取ったコードの解説を読める本 この本の特徴は過去のkaggleコンペティションを4つピックアップして、EDA、baselineモデルの解説をじっくり行い、入賞者が公開したコードを元に筆者が解説を加えながら紐解いていくというところにあります。 また、テーブル、音声、画像と分野が広…

【atmaCup】初めてatmaCupに参加してきました。

こんにちは 3/5-3/13の期間で開催されていたatmaCupという機械学習コンペに初めて参加してきました。 public119->private143(↓24)/298（サブしてる人数）と結果は振るわなかったですがとてもいい経験になりました。 コンペサイト→#10 [初心者歓迎!] atmaCup コンペ関係者の皆様、このような機会を設けていただきありがとうございます。 入賞者の方々、おめでとうございます。 参加者の方々、お疲れさまでした！ なぜ参加したか atmaCupについては#6の頃から認知はしていました。なぜ参加してなかったかというと、kaggleのコンペマスターを目指していたから…

分析コンペ勉強会で勉強してきた。 #33dsoc

※ほぼ日記です。 こんにちは、面白そうな勉強会があったので聴講してきました。1 何れの発表も発表者様の考えがうまく言語化されていてとても勉強になると同時に、考えを言語化する力の凄さを感じました。 具体的には下記のような能力についてでしょうか。考えて、試して、振り返って、力にすることの大切さを改めて学ぶことが出来ました。 課題の中にある課題を理解し、分解し、置換して事例を探したり解決する力 自分とトッププレイヤーの力の差をうまく測ること コンペとして（機械学習で解決する対象として）適切かどうか審判する力 多用なリソースを使いこなる力 ノイズに立ち向かう力 より効果的にコンペのスコアを上げる力 メ…

Cassavaコンペ中に学んだことや自分用メモ

こんにちは 今回はCassavaコンペ期間中に導入したことや、自分用のメモを書きます。 HydraとMLflow Trackingの導入 下記サイトにお世話になりました。 公式ドキュメント 小さく始めて大きく育てるMLOps2020 ハイパラ管理のすすめ -ハイパーパラメータをHydra+MLflowで管理しよう- Hydraで始めるハイパラ管理 Python: MLflow Tracking を使ってみる 小さくMLOpsを始めてみようと言うことで今回は2つのツールを入れてみました。鳥コンペの頃に参考にしたnotebookの影響でもともとyamlでコンフィグを書いていたのでHydraに関して…

【Kaggle挑戦記】Cassavaコンペ振り返り（本編）【#6】

こんにちは 今回は「Cassava Leaf Disease Classification」というコンペに挑戦しました。 Cassava Leaf Disease Classification 結果はpublic891位からshake downしてprivate1303位という大惨敗です。 まず、どんな目標を立てて取り組んでどうなっかに軽く触れて、コンペへの取組内容と敗北者ソリューションを載せます。それではよろしくおねがいします。 このコンペでの目標 本コンペは運要素が強いと言われていましたが、やることはシンプルな画像分類で評価値も正解率だったためとっつきやすいです。なので、画像タスクの基本的…

ヨーロッパ旅行記⑥[プラハ]

はじめに この旅行記は昔したヨーロッパ旅行の記録です。 1週間ほどかけてドイツ、チェコ、オーストリアを周遊しました。 できる限り自分が見たい旅行記に近づけるようにがんばって書いています。ここが良い、これがほしいありましたらご意見待ってます。 バックナンバー ヨーロッパ旅行記①[出発～フランクフルト] ヨーロッパ旅行記②[フランクフルト～ローテンブルク～フュッセン] ヨーロッパ旅行記③[ノイシュバンシュタイン城～フュッセン市街地] ヨーロッパ旅行記④[ミュンヘン] ヨーロッパ旅行記⑤[チェスキークロムロフ] 今回の旅程 前回はチェスキークロムロフを観光しバスでチェコに向かうところまででした。今回…

ヨーロッパ旅行記⑤[チェスキークロムロフ]

はじめに こんにちは。 この旅行記は昔したヨーロッパ旅行の記録です。 1週間ほどかけてドイツ、チェコ、オーストリアを周遊しました。 できる限り自分が見たい旅行記に近づけるようにがんばって書いています。ここが良い、これがほしいありましたらご意見待ってます。 バックナンバー ヨーロッパ旅行記①[出発～フランクフルト] ヨーロッパ旅行記②[フランクフルト～ローテンブルク～フュッセン] ヨーロッパ旅行記③[ノイシュバンシュタイン城～フュッセン市街地] ヨーロッパ旅行記④[ミュンヘン] 4日目の旅程 前回はドイツミュンヘンを観光し、ホステルで宿泊するところまででした。 今回から4日目に入ります。 電車と…

【kaggle】NFLのTop solutionsメモ

NFLコンペのソリューションを読みました。ソリューション一覧はココにまとめられています。 上位の傾向として2ステージに分けていて1ステージ目に物体検知を行ってから2ステージ目で画像分類をする流れが多く見られました。impactを選び切るのをどの段階で行うかが別れていました。また、コンペ中そこまで理解できていなかったのですが、正解ラベル1つに付き予測は1つしか正解にならないため学習時には正ラベルの範囲を増やすが、sub時には同一衝突は1レコードになるようなpostprocessingが必要だったみたいです。 せっかく手元にまとめたのでここに供養します。 英語力も物体検知のドメイン知識も不足してい…

【Kaggle挑戦記】NLFコンペ振り返り【#5】

こんにちは 今回は「NFL 1st and Future - Impact Detection」というコンペに挑戦しました。 NFL 1st and Future - Impact Detection 結果はpublic94位（銅）→private104位（メダルなし）/459でメダル獲得ならずでした。 ワンチャン銀とか取れちゃうんじゃないかと期待して参加してみましたが全くそんな事はありませんでした。調子に乗ってました全力で謝罪します。 Object detectionという分野に関して小麦コンペで触ったときには何もわからなかったので、今回は基本的な部分を学びながらコンペに取り組みました。本記…

2020年第53週進捗確認(2020年完走！)

こんにちは 第53週の振り返りをしていきます 第53週の進捗確認 今週の実績 実績の累計 計画値 勉強 30h39m 1202h02m 1060h 音楽 4h10ｍ 175h10m 265h 追加で立てた1200時間の目標はなんとか達成 楽器はサボり気味のまま終わってしまいました(´・ω・`) 年間の月別も並べてみました。GWとか長期休暇を始めkaggleコンペに熱中してるときが多いですね。つまりkaggleコンペやってる方が良いのでは・・・？ 終わりに 1年間ほぼ毎週実績を振り返ることで1年の速さを感じた 振り返り以外何らかのアウトプットが全く出来なかったのは反省 2021年は習字で振り返る…

2020年振り返りと2021年の目標

はじめに 2020年も終わるということで、2020年の振り返りと2021年の目標を宣言していきます。 2020年の振り返り 目標の達成具合 年初に立てた目標は下記 2019年の振り返りと2020年の目標 - まだタイトルない 内容 結果 一言 健康 プランク(1分*3セット)を毎日 未達 リングフィットも最近出来てない 体脂肪率15% 未達 17%くらい 暮らし 整理整頓できている部屋 未達 IoT家電の導入 未達 IFTTT使う 未達 Slackの活用 達成 kaggleで使った 音楽 250時間 未達 175時間※12/30時点 勉強 1000時間 達成 1188時間※12/30時点 統計…

2020年第52週進捗確認

こんにちは 第52週の振り返りをしていきます 第52週の進捗確認 今週の実績 実績の累計 計画値 勉強 18h29m 1171h23m 1040h 音楽 3h10ｍ 171h00m 260h 今年最後にNFLコンペに参加してみました 一週間チャレンジになりますがオブジェクトディテクション乗り会が少しでもできるようにがんばります

スタンフォード式最高の睡眠　自分用メモ

こんにちは 数年前にこの本を買って読んで、また今年記事にしようとメモを取りながら読んでずっと放置されていました。 2021年に持ち越したくないのでここでそのメモ供養しておきます。 出てくる用語？ 2種類の睡眠中の状態 レム睡眠 REM=Rapid Eye Movement（急速眼球運動） 身体は休息しているが、脳が活動している状態 記憶の整理や定着が行われる 夢を見る状態 ノンレム睡眠 non-REM 脳が眠っている状態 2種類の体温 深部体温 体の内部の温度、日中高くて夜間が低い 体表面温 手足の温度は逆で昼に低くて夜間高い 朝より夜のほうが体温が高いと思います 何をもって最高の睡眠とするの…

2020年第51週進捗確認

こんにちは 第51週の振り返りをしていきます 第51週の進捗確認 今週の実績 実績の累計 計画値 勉強 19h22m 1152h54m 1020h 音楽 4h30ｍ 171h00m 255h ボーナスタイム サボりすぎてる人間

どんな人がkaggleを始めて4ヶ月でCompetitions Expertになったのか

はじめに この記事はKaggle Advent Calendar 2020 の19日目の記事です。 18日目は fam_taroさんのコンペのために LambdaPC を購入してみたお話でした。電力の確認という工程が印象的でした。自分のGPUはGTX1070なのでそろそろメモリの大きいGPUとか考えたくなります。 20日目はupuraさんのWeekly Kaggle News 1周年です。（後でリンク貼ります）この場を借りて、おめでとうございます！ 簡単な自己紹介と概要 teyosan1229という名前で今年の6月からkaggleをはじめました。銅メダルを2枚獲得したのでCompetition…

2020年第50週進捗確認

こんにちは 第50週の振り返りをしていきます 第48,49週の進捗確認 今週の実績 実績の累計 計画値 勉強 12h41m 1133h32m 1000h 音楽 2h00ｍ 166h30m 250h ちょっと忙しかったプラス自分の怠惰でなかなか勉強ができませんでした。 年賀状の準備以外とくに用事もないのでしっかり睡眠取りながら頑張るぞい あとがき 新幹線で英語の本読むと寝落ちしてしまうことがわかりました

2020年第48,49週進捗確認

こんにちは またまた1週間サボってました。2週間分の実績を・・・ 第48,49週の進捗確認 今週の実績 実績の累計 計画値 勉強 43h55m 1120h51m 980h 音楽 5h35ｍ 164h30m 245h 2週間計は40時間超えてるので引き続き 楽器もかなり地味にやってますがあまり納得出来てはいない あとがき コンペ終わっておつかれということで若干の季節遅れで京都に遊びに行ってきました。公共交通機関、宿泊施設、観光スポット、どこをとっても感染予防はとられていて、観光客も意識高く観光できていたのが印象的でした。地域共通クーポン（電子）も使用しましたが、結構使いやすいなぁという印象。

2020年中に読みきりたい積読の紹介

こんにちは kaggleのコンペも終わりましてダレるタイミングですが、やることやって終わりたい。宣言することで自分にプレッシャーを与えていきたいということで今回は積まれてる本（電子含め）を紹介したいと思います。 ①独学プログラマー 独学プログラマー Python言語の基本から仕事のやり方まで作者:コーリー・アルソフ発売日: 2018/02/24メディア: 単行本 髭のおじさんがやけに印象に残っていたのと、評判が良さそうだったので移動時用に買った本。まだ半分くらいしか読んでないです。12月はパソコンが使えない状況になることも多そうなのでそのときに読み切ろうと思います。 ②機械学習・深層学習による…

【Kaggle挑戦記】MoAコンペ振り返り【#4】

こんにちは kaggle登録して4回目のコンペに参加してきました。 Mechanisms of Action (MoA) Prediction 結果はpublic619位→private204位/4384でメダルなしです。 publicで一回銅圏内までいけましたが最終的にはメダル圏外フィニッシュからのshakedown...ブレンドだけしてる公開ノートが上にあったので流石にshakedownはしないかと思ったのですが残念無念。 コンペ概要 ※自分のコンペ用のメモから抜粋 間違った部分ございましたら指摘ください MoA（作用機序）とは 薬理学における作用機序とは、薬剤がその薬理学的効果を発揮する…