Blog - LINE ENGINEERING

LINE株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。 LINEヤフー Tech Blog

文章有害性評価コンペティションへの挑戦
Koki Wataoka2022-03-25
Trustworthy AIチームで言語モデルの信頼性検証技術の開発に取り組んでいます。
AI開発室のTrustworthy AIチームに所属している綿岡です。普段の業務は言語モデルの信頼性向上のための技術開発で、特に有害文検知に関する技術開発に注力しています。昨今の言語モデルの急速な発展に伴い、有害文検知の技術も急成長しており、Perspective API（有害文を検知するAPI）を提供するJigsawは有害文検知コンペティションを2018年から毎年開催しています。一方、我々Trustworthy AIチームは、日本語での有害文検知モデルの構築は今後最重要課題となるだろうと常々考えてきました。そのことから有害文検知の最先端に挑戦するとともに知見を深めることを目的として、2021年11月からKaggleで開催された「Jigsaw Rate Severity of Toxic Comments」にTrustworthy AIチームから綿岡が参加することにしました。最終結果を先に記載しておきますと、2,301チーム中147位で銅メダルを獲得しました。このブログでは、本コンペの概要及び出場にあたって取り組んだ内容について報告します。ルール本コンペの目的本コンペの目的は「
- Trustworthy AI
- LINE R&D
LINE Open Source Sprint 2021: オープンソースに貢献する文化の創出
LINE Open Source Program Office TF2022-03-22
こんにちは。 Open Source Program Office TF (タスクフォース)です。LINEがオープンソースに大きく依存していることはよく知られる事実ですが、私たちのチームはLINEのエンジニアリング文化がオープンソース文化と密接に融合するように多くの努力を払っています。 LINEのような環境で働いている開発者であれば、一度ぐらいは次のようなことを考えたことがあるかと思います。「あ…自分も時間をかけて、いつかはオープンソースに貢献しないと…」この思いはすぐに次につながることでしょう。「けど、何をどこからやればいいのだろう。。。」多くの人がこのような悩みを抱えているという事実が分かったことで、私たちのチームはオープンソースへの貢献を行うための社内イベントの開催を企画しました。今回の記事では、2021年の年末に行われた「LINE Open Source Sprint 2021」についてご紹介します。どんなイベントなのか？ LINE Open Source Sprintは、エンジニアが短期間に集まって特定のオープンソースに貢献してみる
- Open Source
- LINE Events
【インターンレポート】汎用的な音声表現のための自己教師あり学習の研究
Ibuki Kuroyanagi2022-03-16
はじめまして、名古屋大学大学院情報学研究科修士１年の畔栁伊吹です。2021年の夏にLINEのAI開発室のリサーチャーインターンシップに6週間参加しました。今回のインターンはコロナの影響でフルリモートで参加しました。普段と異なる環境かつ限られた時間の中で成果を出せるか不安でしたが、メンターの方と毎日30分程度ミーティングの時間があったため、問題なく進めることができました。インターンでは、「汎用的な音声表現のための複数のサンプリング戦略を用いた自己教師あり学習法」の開発、実験、論文執筆を行いました。論文は音声・音響・信号処理分野における世界最大規模の国際学会ICASSP2022に投稿し、採択されました[1]。以下では、インターンで取り組んだ研究の概要について書きます。研究背景音に関連するタスクには、音声認識、話者識別、コマンド認識、音響イベント検出、ピッチ推定、など様々な種類があります。ニューラルネットワークの発展に伴い様々な手法が高い性能を実現していますが、それぞれのタスクに対して専用の学習用データを収集し、教師ラベルを付与する必要があるため多くの労力が必要となります。コマンド認識
- line-intern-ja
- LINE R&D
2021 LINE NEWS UIT Workshop レポート
Takuya Abe2022-03-09
こんにちは。 LINE フロントエンド開発センターの安部です。私が所属するフロントエンドチームでは月間154億PV(2021年8月時点)の大規模サービスであるLINE NEWSの機能追加・改善に日々取り組んでいます。 LINE NEWSの開発を継続していく中で改善のアイデアや要求は日々蓄積していきます。エンジニアもそれぞれ理想やモチベーションを持って開発を続けていますが稼働中のサービスに対しアーキテクチャやフレームワークの刷新といった大きな変更を伴う改善に着手できる機会はそう多くありません。またLINE NEWSは企画・開発・QAが分業体制になっているため開発側の都合だけでは作業の優先順位付けができず技術的負債が放置されてしまうこともあります。その少ない機会への備えや現実的な制約へのフラストレーション発散の場としてLINE NEWSのフロントエンドエンジニア全員で「LINE NEWSを作り直すなら？」というテーマで各メンバーが抱いている理想や、その理想の実現を阻害する原因について話し合うWorkshopを実施しました。今回の記事ではそのWorkshopの様子を紹介します。多人数チ
- frontend
- UIT
【インターンレポート】　プライバシを保護したFederated Learningの安全性評価
Marin Matsumoto2022-02-25
2021年夏のインターンシップに参加したお茶の水女子大学の松本茉倫です．インターンシップでは「局所差分プライバシを適用したFederated Learningの安全性評価」について研究しました．本研究に関する論文は，第14回データ工学と情報マネジメントに関するフォーラム (DEIM2022) にて、3月1日に同タイトル（プライバシを保護したFederated Learningの安全性評価）発表予定です．研究背景クライアントが持つデータを集約せずに分散した状態で機械学習を行う方法として，2016年に提唱されたFederated Learningがあります． Federated Learningは，サーバから配布されたグローバルモデルを使ってクライアントが自身の持つデータの勾配を計算し，サーバが勾配を集約すること(平均化など)で学習モデルを更新する方法です．一見するとプライバシ保護されているように思えますが，クライアントが生成した勾配から元データが復元される恐れがあるとされています．プライバシ保護をした状態でFederated Learningを行う方法の一つとして，勾
LINEアプリにおける複数人トークとグループトークの統合
Takatoshi Nao / Kuang Fu2022-02-24
Takatoshi Nao and Kuang Fu are in charge of LINE messaging servers
LINEアプリは1対1の会話だけでなく、複数ユーザーでの会話にも対応しています。これまでLINEにおける複数ユーザーでの会話には、用途に応じてと複数人トークとグループトークの2種類がありました。複数人トークは一時的な会話の用途で設計されています。複数人トークを作るときに、名前を付けることはできません。友だちをトークに招待する際に相手の承認を待つ必要はなく、「招待」ボタンをタップすると自動的にトークルームに追加されます。すべては、すぐに会話を始めるために設計されています。一方、グループトークは長期的な利用を目的に設計されています。同級生、同僚、スポーツクラブの友人など、多くのグループトークに所属している方もいると思います。それらのグループトークには名前が付いているので、見つけやすく、その目的を思い出すことができます。友だちをグループトークに招待する場合、参加時にその友だちの承認が必要です。グループトークは長期間使用されるものとして設計しているため、メンバーの体験を改善し、より親密な関係を構築しやすいように、グループトークの機能は年を重ねるごとに徐々に強化されてきました。グル
- Server-side
【インターンレポート】有用性の高いモデルを獲得する差分プライベート学習手法
Ryuichi Ito2022-02-24
大阪大学情報科学研究科の伊藤竜一と申します．2021年の夏期インターンシップに6週間参加し，期間後もアルバイトとして従事していました．プライバシを保護しながらパーソナルデータを含むデータの分析を可能にしたいというモチベーションから，データ生成と差分プライベート学習に関する研究を行いました．この記事では差分プライベート学習について紹介したいと思います．なお，より詳しい内容は第14回データ工学と情報マネジメントに関するフォーラム (DEIM2022) にて「低ランク近似を介した選択的パラメータ更新による差分プライベート学習」として発表予定です．研究背景個人に関するデータ，つまりパーソナルデータの利活用が進んでいます．パーソナルデータの利用はサービスに有用となることが多いですが，一方で個々人の特定やプライバシの開示を防ぐ必要があります．プライバシ保護技術は多数ありますが，今回は差分プライバシという指標に注目します．差分プライバシは，簡単に説明すると，「特定のデータが含まれているかどうかの識別が ϵ, δ というパラメータで指定した程度に困難である」というこ
【登壇情報】3/12(土)開催「6社合同 SRE勉強会」 LINEエンジニアの講演テーマと推しポイントを紹介します
Momoki Kota2022-02-15
LINE技術領域に関するPRや社内外のイベントなどを担当しています。\r\n
こんにちは、Developer Successチームの桃木です。 3月12日(土)の13時より、LINE/メルカリ/クックパッド/ディー・エヌ・エー/サイバーエージェント/リクルートの6社合同でSREに関するオンラインイベントを開催します。詳細情報/Connpass : https://line.connpass.com/event/236497/ Twitter : https://twitter.com/SRE_GodoBenkyo この記事では、「6社合同 SRE勉強会」でLINEから発表を行う2つのセッションについて、講演の元となる課題背景や推しポイントを、Pre Blogとして登壇者にまとめてもらいました。なお、Pre Blog公開から1週間の期間で各セッションで解説してほしいポイントや聞きたい質問などをSlidoで事前募集し、登壇者に連携してセッション中やAsk the Speakerで取り上げていきます。投稿されているものに対して投票・賛同することも可能です。たくさんの投稿や投票をお待ちしています。【Track A / 11:15-12:00】約9倍のスパイク
- SRE
【インターンレポート】シチュエーションを限定した対話における応答生成
Toshiki Kawamoto2022-02-02
こんにちは、川本稔己と申します。今回LINE夏インターンシップ技術職就業型コースに参加する機会を頂きましたので、その内容をご報告致します。現在、私は東京工業大学大学院修士課程1年で、奥村・船越研に在籍しており、自然言語処理という分野の研究を行っています。私は特に対話に関する研究を行っていて、身近な例でいうと音声アシスタントのような人とシステムで行う対話に興味があります。システムが何でも答えてくれるようになったり、話し相手になってくれたら楽しいですよね。そういった思いがあって、今回のLINEのインターンでは、AI開発室のNLPチームで業務に携わりました。業務内容は大規模汎用言語モデルを用いた対話システムを構築することで、その成果を対話システムライブコンペティション4に提出しました。その結果、オープントラックとシチュエーショントラックでどちらも1位を取ることができましたので、本記事では自分がメインで担当しましたシチュエーショントラックについて詳細をご報告致します。対話システムライブコンペティション4 対話システムライブコンペティション(以降ライブコンペ)とは、対話システムシンポジウム
続 LINE 社内用 NPMパッケージの管理戦略
Takayuki Yoshizawa2022-01-28
みなさんこんにちは。UIT Front-end Dev7チームの吉澤です。主にUITが扱う社内サービスやミドルウェアの開発/運用などを行っています。またDev7チームにはLIFF（LINE Front-end Framework）というLINEが使っているフレームワークの開発をしているメンバもいます。他のUITのチームとは一風変わった特徴的なチームです。このチームの業務の1つにUITが管理しているPrivate npm registryの拡張、関連機能開発/運用があります。実はこれに関連した全社的にnpmが使えなくなるという障害が2021/2/15にLINE社内で発生していました。今回はその障害について話しながら私たちUITが管理しているPrivate npm registryについての話を書きます。 Private npm registryについて npm(node package manager)に関して改めて説明の必要はない気がしますが、Private npm registryって何だろう？という疑問は浮かぶかもしれません。文字通りnpm, incが管理している公式のregis
- frontend
- UIT
- npm