兄弟たち、こんにちは。今日は少し硬い話をしよう。先月、ちょっとしたプライベートワークを受けて、小さな法律事務所の契約レビューのルールを整理する手伝いをした。相手からは、リスク条項を迅速に識別できる小ツールを作るように頼まれた。通常のやり方だと、クラウドGPUをレンタルして、大きなモデルを微調整する必要がある。環境設定だけでも半日かかるし、コストもそれなりにかかる。

その時、OpenLedgerのホワイトペーパーに書いてあったOpenLoRAを思い出した。試してみるつもりでアクセスしてみた。

OpenLoRAというのは、要するにマルチテナントのLoRAモデルサービスフレームワークだ。一台のGPUで数百の微調整モデルを同時に動かせるから、自分でカードを買ったり、分散デプロイをする必要はない。直接OpenLedgerでベースモデルを選んで、あなたの微調整した重みをアップロードすれば、自動で共有プールにロードしてくれる。

以前にアノテーションした契約条項500件を使って、それぞれ高リスク表現かコンプライアンスに沿った表現かを明記し、ModelFactoryで微調整してみた。全工程で15分。そのあとOpenLoRAでワンクリックデプロイして、すぐにAPIのURLを取得できた。

正直、初めて呼び出すときは少し緊張した。遅延が大きかったり、出力が文字化けしたりしないか心配だったけど、リクエストを送ったら300ミリ秒以内に結果が返ってきた。よくある契約書から曖昧な条項をいくつか適当に入れてみたら、モデルは「責任を負わない」「一方的な変更」といったリスク要因を正確に見つけてくれた。期待以上の結果だった。

失敗したところも話しておかないとね。最初に使った微調整用データは、負例のバランスが十分に取れていなかった。そのせいでモデルが少し過敏になり、普通の条項までたくさん高リスクと判定してしまった。後からデータを整理し直して、正例と負例の割合をだいたい1対1に調整し、もう一度微調整したら、ずっと良くなった。だからみんな、微調整するときはデータのバランスが思っている以上に大事だよ。

コスト面は本当に驚きだった。全工程に加えて、その後の数十回のテスト呼び出しまで含めて、消費した$OPEN を換算しても2ドル未満。自分でGPUを借りるのと比べて、少なくとも一桁は節約できた。しかもOpenLoRAは実際の推論回数に応じた課金だから、モデルを使っていないときはお金がかからない。

一番気に入ったのは、OpenLedgerが推論の各ステップをすべてオンチェーンに記録してくれること。モデルを呼び出したこと、どんな入出力があったか、費用をいくら消費したか、どのデータ貢献者が今回の推論に参加したか、すべて確認できる。B2Bサービスを提供するうえで、これは本当に重要だ。顧客に「なぜこの料金なのか」と聞かれたら、オンチェーンの記録を見せればいい$BTC

同じように試してみたい人に、いくつかアドバイス。第一に、微調整用データは量より質。質の高いアノテーション100件のほうが、適当に付けた1,000件よりずっと役に立つ。第二に、まずはOpenLedgerにある公開モデルで試して、流れを把握してから自分のプライベートデータを使おう。第三に、ドキュメントにあるベストプラクティスを確認しよう。バッチサイズなどのパラメーターは、そのまま真似すれば大丈夫@ETH

OpenLoRAの仕組みを使って、OpenLedgerは開発者の悩みを本当によく分かっていると感じた。口先だけじゃなく、すぐに使えるツールを提供してくれる。コストは明確で、結果もコントロールできる。

次は契約書モデルを小さなAPIサービスにして、自分のツールチェーンに組み込むつもり。収益が出たら、ルールに従ってOpenLedgerとデータ貢献者に分配する。これこそWeb3らしい形だよね@OpenLedger #OpenLedger