Local LLM利用データ処理
AIチャットだとハルシネーションの悪影響が大きなデータ処理がありました。ハルシネーション対策のプロンプトを書くのも面倒になったので、APIコールで1件ずつ処理するコードを書いてみました。最も手軽な方法の一つではないかと思 続きを読む…
タグ: python
要約化サーバーを作ってみた
AI/機械学習の技術がすごく進んでいて、その中に文書要約があります。長い文書を短く要約すると目を通す時間を短縮できて便利です。 この技術を導入したいと考えましたが、外部サービスへデータを流し込むのはためらわれます。BER 続きを読む…