背景 はじめまして、JX通信社でインターンをしている原田です。 近年深層学習ではモデルが肥大化する傾向にあります。2020年にopen aiが示したScaling Laws（[2001.08361] Scaling Laws for Neural Language Models） の衝撃は記憶に新しく、MLP-Mixerが示し…

BERTの推論速度を最大10倍にしてデプロイした話とそのTips

この記事は JX通信社Advent Calendar の 12 日目です。 FASTALERT チーム機械学習エンジニアの mapler です。FASTALERT の機械学習とサーバーサイドの開発をしています。 FASTALERT（ファストアラート）は、SNSから事件･事故･災害等の緊急情報を検知し、配信…

CNNを使った分類問題の判断根拠（画像編）