Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
searchnos について
Search
Yoji Shidara
March 10, 2023
Technology
0
150
searchnos について
Yoji Shidara
March 10, 2023
Tweet
Share
More Decks by Yoji Shidara
See All by Yoji Shidara
Searchnos & Search on Nostr
dara
0
97
nostrbuzzsのしくみ
dara
0
290
How nostrbuzzs works
dara
0
31
About searchnos
dara
0
26
HOME, GOPATH and me
dara
3
1.5k
The First Step for Building Groonga Bindings with Golang
dara
6
1.1k
まほうのひととき - The Magic Hour
dara
7
760
JDK CHRONICLE
dara
2
8.7k
Timelapse Introduction
dara
1
550
Other Decks in Technology
See All in Technology
Grafana x PagerDuty Better Together
jacopen
1
260
Tellus の衛星データを見てみよう #mf_fukuoka
kongmingstrap
0
270
「スニダン」開発組織の構造に込めた意図 ~組織作りはパッションや政治ではない!~
rinchsan
4
610
本当のAWS基礎
toru_kubota
1
620
非同期推論システムによるコスト削減と信頼性向上
koki_nishihara
1
360
require(ESM)とECMAScript仕様
uhyo
4
960
TechFeed Experts Night#27 〜 フロントエンドフレームワーク最前線 (Svelte)
baseballyama
2
590
Handling focus in 2024
tahia910
0
220
web-application-security
matsuihidetoshi
1
190
Rustで「プリズモイダル法」を利用して「土量計算」をガチでやる
nokonoko1203
1
300
生成AIの変革の時代に、直近1年で直面した課題とその解決策
ktc_wada
0
610
認知症フレンドリーテックとスタックチャン
naokiuc
0
180
Featured
See All Featured
Understanding Cognitive Biases in Performance Measurement
bluesmoon
11
1k
Building Flexible Design Systems
yeseniaperezcruz
320
37k
Ruby is Unlike a Banana
tanoku
96
10k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
13
8.3k
Unsuck your backbone
ammeep
663
57k
Documentation Writing (for coders)
carmenintech
61
4k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
323
20k
Visualization
eitanlees
137
14k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
14
1.5k
Imperfection Machines: The Place of Print at Facebook
scottboms
261
12k
Building Adaptive Systems
keathley
32
1.9k
The Language of Interfaces
destraynor
151
23k
Transcript
searchnos について npub1q7qyk7rvdga5qzmmyrvmlj29qd0n45snmfuhkrzsj4rk0sm4c4psvqwt9c 2023-03-10 Nostr 勉強会 #1
@darashi nostrbuzzs の作者です。
searchnos とは https://github.com/darashi/searchnos Nostrbuzzs に検索機能がほしい、けど... NIP-50 (Search Capability; 検索) 対応のリレーが少ないので、自分で作ってみまし
た。 リレー風のサーバですが、フル機能のリレーではありません。
None
考えたこと リレーを自前で作るのは大変そう 現状でも既に大変そう 今後の NIP に対応し続けるのも大変そう リレーを自前で運用するのも大変そう ユーザのリレーリストに追加してもらい、こちらにイベントを投げてもらわ ないといけない。 そのレベルのものを運用するのは大変そう。
→ イベントは既存のリレーから取得するのがよさそう。小判鮫的な。
しくみ searchnos indexer searcher relay-1 relay-2 Elasticsearch web-browser
indexer 指定したリレーに接続し、kind1 とkind5 を購読する。イベントに応じて Elasticsearch の状態を更新する。 searcher REQ が来たら、 Elasticsearch
にクエリを投げて、結果を返し、最後にEOSE を送る。 (内部的な)クエリ購読者リストに追加する。 一定時間ごとにポーリング 購読者があるクエリを順番に Elasticsearch に投げて、新着の結果を購読者に 流す。
client searcher Elasticsearch indexer relay loop loop REQ w/"search" 1
query 2 response 3 EVENT (if matched) 4 EVENT (if matched) 5 EOSE 6 kind:1 7 index request 8 wait 9 query 10 response 11 EVENT (if matched & unread) 12 CLOSE 13 client searcher Elasticsearch indexer relay
おもしろポイント 同じクエリを購読しているクライアントのクエリは、一つにまとめて Elasticsearch に投げる。 buzzphrases に関していうと、何人もが同じクエリを購読することがよくあ る。 Simple query string
query ※ を使っているので、複雑な条件を持つ検索ができる ※ https://www.elastic.co/guide/en/elasticsearch/reference/current/query-dsl-simple- query-string-query.html
まとめ 既存のリレーから note を収集し、 NIP-50 に対応した検索機能を提供するリレー っぽいサーバーを作った。
今後の課題 通常のフィルタ条件 (NIP-01) に対応する。 現状 limit にしか対応できていない kind:0 (NIP-01) にも対応する...?
購読者の多いクエリは頻繁にポーリングするなど、もう少し賢いクエリスケジュ ーリング。 言語推定と言語によるフィルタリングに対応する...? spam フィルタに対応する...? どうやって...? NIP-56 があるので、信頼できるユーザの pubkey を定義して、その kind:1984 から spam フィルタを学習する、とかはありかもしれない。 運用が大変そう...