Skip to content

meeting_20180314

okbp edited this page Mar 14, 2018 · 16 revisions

2018-03-14 打合せ

日時: 2018-03-14(水)16:00-
場所: W207
参加: 岡別府、藤澤、児玉、運用チーム(藤本、佐藤)

アジェンダ

  • ルール実装の進捗確認
  • ルールの調整事項
    • 必須がないときのチェック
    • taxonomy id チェック関連
    • SSM validator 実装
  • 運用開始に向けての調整
    • Nagios 監視運用チームへの依頼
    • 本番環境とステージング環境での異常通知の発生
    • バージョン管理
    • ウェブサイト
    • validator の deploy 手順
  • Annotated Sequence Validator(TogoAnnotatorの利用)の実装開始

ルール実装の進捗確認

  • BioProject Validationの実装(岡別府) (27/27ルール)
  • DRA Validationの実装(岡別府) (29/32ルール)
  • BioSample Validationの実装(岡別府) (追加1ルール) => 追加して本番環境にデプロイ済み(サンプル名100文字以内チェック)
  • biosample package の rdf に tsv での提供順情報を持たせる (藤澤)
    ← package 指定毎の attribute リストを順番に取得する SPARQL 教えてください(児玉)
  • 更新手順書等ドキュメント作成 => 作成中

ルールの調整事項

必須がないときのチェック

D-way: 必須属性値がないとき属性そのものが無い
validator: header にないではなく値がないというチェックをするように改修

SSM validator 実装

  • auto-correct された tsv xml を download する口はない
  • DB から直接 xml を validator にかけるパスはなくファイル upload 必要
  • validate & submit は common error あると submit されない、上部の submit は独立しているので common error あっても submit できる
  • D-way でやっているような xsd、sample name 重複などのベーシックなチェックは SSM では v 導入にあわせ外した、ある意味 D-way で外せるかどうかのテスト環境になっているのでわざと tsv 変えていろいろ試してみる

taxonomy id チェック関連

まとめ docs

運用開始に向けての調整

Nagios 監視

  • staging監視
    1月の打ち合わせで、藤澤様からスパコンチームに依頼していただくことになりました。
    運用チームでは追跡していませんが実施済みでしょうか。→ 2/20 スパコンチームに依頼済

スパコンチームへの依頼内容

次の事項を依頼予定 → 2/20 スパコンチームに依頼済

  • Staging環境のTimeout 300 / KeepAlive Offの設定については元に戻して頂く(本番環境と揃えるため)
  • 403の設定については、現状効いていないので提案する設定を渡す

現行設定

<Location /api>
  Require ip (制限許可IPの記述)
  ErrorDocument 403 /api/forbidden.json
</Location>

修正後設定 (内容:"/api/"であり"/api/error_*.json"ではないURIにアクセスをかけるように修正)

<LocationMatch "/api/(?!(error_.*\.json))">
  Require ip (制限許可IPの記述)
  ErrorDocument 403 /api/error_forbidden.json
</LocationMatch>

ウェブサイト

2/22にstaticサイトに切り替えその後 D-way での validator リリースまでにヘルプページを準備する。公開されたらルール定義のreference列にURLを入力し(児玉)、現在reference情報を配列で返しているValidationをテキストで返すように修正する(岡別府)。D-way側でもルールに対してリンクを貼ってユーザが確認できるようにする(運用 T)。

バージョン管理

  • ルール及びパッケージの定義に関しては、GitHubでレポジトリを分けて管理する(★児玉)
    => https://github.com/ddbj/pub で作成済み
  • バリデーションでこれらルールを取り込むタイミングで日付に基づいたバージョンをつける。取り込む際はルール定義=>JSON、パッケージ定義=>OWLに変換するので、変換したものにバージョンを付与する。
  • バリデータについてはデプロイするタイミングでバージョンを付与する。これはセマンティックバージョニングになる(1.0.2等)
  • APIの仕様(メソッド)を変える場合にもバージョンをつける。稀にしか発生しないのでこれもセマンティックバージョニング。
    • APIのバージョンについては、全てのバージョンの定義ファイル(openapi.json)を残しておき、バージョン毎にさせるようにする。バージョン指定がない場合は最新バージョンの仕様を返す。

d-way release 後の不具合、要望など

github issues で

validator の deploy 手順

reference array --> string で biosample 内部管理システムでエラー発生

  • validator deploy 手順、情報共有方法
  • まずは D-way DDBJ 管理システムのテスト版でチェック
  • 本番リリース

という手順ルールを定めたい

リリーススケジュール

  1. 3/16 スパコンメンテ明け D-way/SSM tax id 必須でリリース
  2. 3/22(?) tax id 任意で再リリース

その他

DORバリデーションの実装

DORでAPIサーバをまだ立てていないのであれば、URLなどを既存(biosamle用)APIサーバにまとめた方が良い。(既存sinatra側からDORバリデーターを叩く設定をする)

It works!

http://ddbj.nig.ac.jp/index.html
It works! について藤澤さんスパコンチームに確認 → 2/20 スパコンチームに問い合わせ済

次回

submission/validation api

Clone this wiki locally