v0.3.13-pre.009
This commit is contained in:
@@ -1,5 +1,5 @@
|
||||
<!-- file: docs/plans/034-V0_3_13_MULTI_SOURCE_LIVE_CONVERGENCE_PLAN.md -->
|
||||
<!-- version: 8 -->
|
||||
<!-- version: 9 -->
|
||||
|
||||
# Plan v0.3.13 — WS standard / Helius / HTTP live + convergence multi-source RawTransaction
|
||||
|
||||
@@ -361,6 +361,8 @@ shutdown timeout : bornes 0.3.12 conservées
|
||||
|
||||
Le coordinator doit utiliser la capacité effective configurée plutôt que la constante maximale comme borne opérationnelle de pending.
|
||||
|
||||
Pour matérialiser simultanément cette borne et la fairness minimale sans scheduler pondéré, `pre.009` partitionne statiquement les deux capacités entre les seules sources reference-bearing. Une composition est refusée avant spawn si leur nombre dépasse `admission_queue_capacity` ou `persistence_concurrency`; sinon chaque source reçoit au moins une part et les sommes des quotas restent exactement dans les capacités configurées. Un sémaphore global conserve en plus un guard défensif sur les hydrations HTTP effectivement ouvertes.
|
||||
|
||||
### 9.4 Fairness minimale
|
||||
|
||||
Aucune source ne reçoit une queue Worker non bornée. Tous les producteurs attendent sur le même canal borné et subissent le même backpressure.
|
||||
@@ -404,7 +406,7 @@ même identité + payload/hash divergent = content conflict explicite
|
||||
|
||||
Aucune majorité de providers, préférence de tier ou overwrite n'est autorisé.
|
||||
|
||||
Le Store reste l'autorité durable finale du conflit. Le coordinator peut détecter plus tôt une divergence lorsque plusieurs matériaux complets de même identité coexistent dans le même lot, mais cette optimisation ne remplace jamais le guard Store.
|
||||
Le Store reste l'autorité durable finale du conflit. Le coordinator peut détecter plus tôt une divergence lorsque plusieurs matériaux complets de même identité coexistent dans le même lot, mais cette optimisation ne remplace jamais le guard Store. La comparaison précoce `pre.009` couvre les dimensions durables disponibles sans recopier le payload dans le cache : slot, block time, format id/version et hash canonique ; les bytes restent protégés par la canonicalisation Common RAW et le guard Store.
|
||||
|
||||
Un content conflict reste terminal pour le Worker en `0.3.13`.
|
||||
|
||||
@@ -1283,3 +1285,125 @@ cargo tree -p ksp-worker-raw-transaction-ingest-lib --edges normal
|
||||
cargo tree -p ksp-worker-raw-transaction-ingest-lib -e features
|
||||
cargo tree --duplicates
|
||||
```
|
||||
|
||||
## 67. Gate opérateur pre.008-fix.002 reçu avant pre.009
|
||||
|
||||
Le gate complet a été fermé en deux exécutions opérateur consécutives le 10 septembre 2026.
|
||||
|
||||
La première exécution confirme :
|
||||
|
||||
```text
|
||||
fmt : PASS
|
||||
audits Rust : clean / export completeness 0
|
||||
Markdown : clean, 340 tables / 844 files
|
||||
cargo check --workspace : PASS
|
||||
clippy workspace all-targets all-features -D warnings : PASS
|
||||
worker unit : 94/94 PASS
|
||||
cross-layer : 4/4 PASS
|
||||
dependency boundary : 15/15 PASS
|
||||
hardening : 22/22 PASS
|
||||
public API : 16/16 PASS
|
||||
release completeness : 4/4 PASS
|
||||
worker doc-tests : 0/0 PASS
|
||||
```
|
||||
|
||||
La seconde exécution ferme les commandes étendues qui manquaient jusque-là :
|
||||
|
||||
```text
|
||||
ksp-onchain-transport-lib unit : 389/389 PASS
|
||||
transport public API : 52/52 PASS
|
||||
transport release completeness : 44/44 PASS
|
||||
transport doc-tests : 4/4 PASS
|
||||
smokes live opt-in : 5 ignored comme prévu
|
||||
cargo tree worker --edges normal : exécuté sans erreur
|
||||
cargo tree worker -e features : exécuté sans erreur
|
||||
cargo tree --duplicates : exécuté sans erreur ; doublons workspace existants listés, aucune promesse de graphe sans doublon
|
||||
```
|
||||
|
||||
Ce gate autorise `pre.009` sans réouvrir Transport ni modifier les dépendances du Worker.
|
||||
|
||||
## 68. Implémentation pre.009 — bornes globales et fairness minimale
|
||||
|
||||
Les seules sources reference-bearing sont Yellowstone, Standard Logs et Helius Transaction. `run_live_sources` compte ces sources avant tout spawn et vérifie deux compatibilités de capacité :
|
||||
|
||||
```text
|
||||
hydration_source_count <= admission_queue_capacity
|
||||
hydration_source_count <= persistence_concurrency
|
||||
```
|
||||
|
||||
Une violation est fail-closed avant spawn avec un `runtime_invalid` stable et sans exposer de valeur sensible. Lorsque la composition est valide, les quotas sont répartis de façon déterministe suivant l'ordre déjà validé des sources :
|
||||
|
||||
```text
|
||||
somme hydration pending quotas = admission_queue_capacity
|
||||
somme hydration in-flight quotas = persistence_concurrency
|
||||
chaque source reference-bearing reçoit au moins 1 pending et 1 in-flight
|
||||
```
|
||||
|
||||
Le partage utilise quotient + reste et n'introduit ni priorité provider, ni scheduler pondéré, ni queue privée non bornée. Une source hostile ne peut donc pas consommer la part réservée aux autres sources reference-bearing. Standard Block et HTTP Block Polling continuent à passer directement par l'admission centrale bornée lorsqu'ils produisent du Common RAW.
|
||||
|
||||
Le registre global d'hydration conserve `max_pending = admission_queue_capacity`. Un sémaphore Tokio global de `persistence_concurrency` constitue un second guard défensif : même si un invariant local régressait, le nombre d'hydrations HTTP leader effectivement ouvertes resterait borné.
|
||||
|
||||
## 69. Duplicate storms, cleanup et starvation
|
||||
|
||||
La coalescence globale de `pre.008` reste `(network, signature, commitment)`. Un duplicate storm sur une clé existante ne crée pas de nouvelle entrée globale et ne déclenche pas de second leader HTTP. Les clés distinctes restent bornées par le budget global ; saturation produit une faute runtime sûre plutôt qu'une croissance mémoire.
|
||||
|
||||
Chaque leader global possède désormais un guard privé de cleanup. Si sa tâche est annulée ou droppée avant publication normale, le guard retire la clé du registre et publie une faute source sûre aux followers. Aucune entrée leader orpheline ne doit survivre à un abort/shutdown.
|
||||
|
||||
La fairness de l'admission centrale est prouvée sur une queue bornée de capacité `1` : après qu'une source storm a rejoint la file d'attente, une seconde source prête rejoint la même queue et est admise avant la réitération suivante de la storm. La preuve ne revendique pas de QoS pondérée ; elle verrouille seulement l'absence de starvation indéfinie d'une source déjà prête sous le contrat FIFO du canal borné utilisé.
|
||||
|
||||
## 70. Disagreement et content conflict pre.009
|
||||
|
||||
Le cache de convergence persistence ne se limite plus au seul `RawContentHash`. Pour une même identité durable `(network, signature)`, il conserve un état canonique borné contenant :
|
||||
|
||||
```text
|
||||
slot
|
||||
block_time
|
||||
format_id
|
||||
format_version
|
||||
content_hash
|
||||
```
|
||||
|
||||
Une divergence sur l'une de ces dimensions devient immédiatement le content conflict terminal existant, avant toute observation additionnelle. Les bytes ne sont pas recopiés dans le cache ; ils sont déjà représentés par le hash issu de la canonicalisation Common RAW, et le Store conserve son contrôle durable final incluant les bytes exacts.
|
||||
|
||||
La politique reste strictement conservatrice : aucune majorité de sources, aucun first-provider-wins, aucune préférence de tier/provider et aucun overwrite ne sont introduits.
|
||||
|
||||
## 71. Preuves déterministes pre.009
|
||||
|
||||
Les preuves ajoutées couvrent au minimum :
|
||||
|
||||
```text
|
||||
partition exacte des budgets pending et in-flight
|
||||
refus des compositions sous-provisionnées avant spawn
|
||||
chaque source reference-bearing reçoit une part non nulle
|
||||
storm de 32 duplicats -> une seule clé globale leader
|
||||
clé globale distincte au-delà de la borne -> saturation sûre
|
||||
sémaphore global -> une seule permit active pour capacité 1
|
||||
drop du leader guard -> publication Failed + clé réouvrable
|
||||
storm admission -> seconde source prête progresse avant la répétition suivante
|
||||
même signature + slot divergent -> content conflict
|
||||
même signature + block_time divergent -> content conflict
|
||||
même signature + contenu/hash divergent -> content conflict
|
||||
aucune observation additionnelle après disagreement
|
||||
```
|
||||
|
||||
Les canaris externes verrouillent en plus l'absence de backend Store direct, client réseau direct, queue non bornée, politique provider-preference et exposition publique des quotas/registry/canonical state.
|
||||
|
||||
## 72. Frontière de tranche pre.009
|
||||
|
||||
`pre.009` ferme disagreements, duplicate storms, bornes globales d'hydration et fairness minimale. Elle ne modifie pas les compteurs/snapshots publics pour exposer une health multi-source détaillée : cette projection appartient à `pre.010`. Elle n'introduit pas non plus de failover, de dégradation non terminale, de priorité provider ni de scheduling pondéré.
|
||||
|
||||
## 73. Gate opérateur requis avant pre.010
|
||||
|
||||
```bash
|
||||
cargo fmt --all
|
||||
cargo fmt --all -- --check
|
||||
python3 scripts/audit_rust_workspace_rules.py
|
||||
python3 scripts/audit_markdown_tables.py README.md RULES.md ROADMAP.md CHANGELOG.md docs prompts crates deltas
|
||||
cargo check --workspace
|
||||
cargo clippy --workspace --all-targets --all-features -- -D warnings
|
||||
cargo test -p ksp-onchain-transport-lib
|
||||
cargo test -p ksp-worker-raw-transaction-ingest-lib
|
||||
cargo tree -p ksp-worker-raw-transaction-ingest-lib --edges normal
|
||||
cargo tree -p ksp-worker-raw-transaction-ingest-lib -e features
|
||||
cargo tree --duplicates
|
||||
```
|
||||
|
||||
@@ -1,5 +1,5 @@
|
||||
<!-- file: docs/validation/030-V0_3_13_MULTI_SOURCE_LIVE_CONVERGENCE.md -->
|
||||
<!-- version: 8 -->
|
||||
<!-- version: 9 -->
|
||||
|
||||
# Validation v0.3.13 — WS standard / Helius / HTTP live + convergence multi-source
|
||||
|
||||
@@ -1288,3 +1288,127 @@ pas de failover provider implicite
|
||||
pas de préférence silencieuse entre sources divergentes
|
||||
pas de nouveaux compteurs/health publics multi-source avant pre.010
|
||||
```
|
||||
|
||||
## 68. Gate complet pre.008-fix.002 reçu
|
||||
|
||||
Le 10 septembre 2026, le gate Worker puis son complément Transport/graphe ont été fournis et sont verts pour toutes les commandes exécutées :
|
||||
|
||||
```text
|
||||
fmt : PASS
|
||||
audits Rust : clean / export completeness 0
|
||||
Markdown : clean, 340 tables / 844 files
|
||||
cargo check --workspace : PASS
|
||||
clippy strict : PASS
|
||||
Worker : 94 unit + 4 cross-layer + 15 dependency-boundary + 22 hardening + 16 public-api + 4 release-completeness, 0 échec
|
||||
Transport : 389 unit + 52 public-api + 44 release-completeness + 4 doc-tests, 0 échec
|
||||
smokes Transport live opt-in : 5 ignored comme prévu
|
||||
cargo tree worker normal/features : exécutés sans erreur
|
||||
cargo tree --duplicates : exécuté sans erreur et liste les doublons existants du workspace
|
||||
```
|
||||
|
||||
Aucun smoke live ignoré n'est requalifié en preuve réseau réelle.
|
||||
|
||||
## 69. Surface pre.009 matérialisée
|
||||
|
||||
```text
|
||||
validate_hydration_fairness_capacity privé
|
||||
hydration_pending_limit privé
|
||||
hydration_in_flight_limit privé
|
||||
quotas statiques par source reference-bearing
|
||||
RawTransactionIngestGlobalHydrationRegistry max_pending exact
|
||||
sémaphore global hydration
|
||||
RawTransactionIngestHydrationLeaderGuard privé
|
||||
RawTransactionIngestCanonicalState privé
|
||||
comparaison slot/block_time/format/hash avant observation additionnelle
|
||||
```
|
||||
|
||||
Aucune API publique ni dépendance supplémentaire n'est requise.
|
||||
|
||||
## 70. Invariants globaux pre.009
|
||||
|
||||
Pour une composition productive valide :
|
||||
|
||||
```text
|
||||
hydration_source_count <= admission_queue_capacity
|
||||
hydration_source_count <= persistence_concurrency
|
||||
somme quotas pending = admission_queue_capacity
|
||||
somme quotas hydration tasks = persistence_concurrency
|
||||
quota de chaque source reference-bearing >= 1
|
||||
global registry distinct keys <= admission_queue_capacity
|
||||
HTTP leader effectivement ouvert <= persistence_concurrency
|
||||
source count <= 32
|
||||
```
|
||||
|
||||
Une composition sous-provisionnée échoue avant spawn. Il n'existe aucune extension silencieuse des bornes configurées, aucune queue provider privée et aucune `unbounded_channel`.
|
||||
|
||||
## 71. Duplicate storm, fairness et cleanup
|
||||
|
||||
Les tests déterministes ajoutés vérifient :
|
||||
|
||||
```text
|
||||
32 subscriptions identiques -> une seule entrée/leader global
|
||||
clés distinctes au-delà de max_pending -> runtime_invalid sûr
|
||||
sémaphore capacité 1 -> seconde acquisition simultanée refusée
|
||||
leader guard droppé -> follower reçoit Failed et la clé peut redevenir leader
|
||||
queue admission capacité 1 -> une seconde source déjà prête n'est pas affamée par la répétition d'une storm
|
||||
```
|
||||
|
||||
Le test de fairness ne revendique ni priorité métier ni scheduler pondéré. Il vérifie le comportement minimal attendu du canal borné commun et les quotas réservent une capacité aux autres sources reference-bearing.
|
||||
|
||||
## 72. Disagreement/content conflict pre.009
|
||||
|
||||
Pour une même identité `(network, signature)`, le cache run-local compare maintenant :
|
||||
|
||||
```text
|
||||
slot
|
||||
block_time
|
||||
format_id
|
||||
format_version
|
||||
content_hash
|
||||
```
|
||||
|
||||
Les cas slot divergent, block time divergent et contenu/hash divergent sont testés comme content conflicts terminaux avant `record_raw_transaction_observation`. Le Store reste l'autorité durable finale et aucune politique de majority vote, provider priority, preferred provider ou overwrite conflict n'est admise.
|
||||
|
||||
## 73. Canaris externes pre.009
|
||||
|
||||
Les suites externes sont étendues pour verrouiller :
|
||||
|
||||
```text
|
||||
dependency-boundary : bornes/fairness restent dans Worker + façades existantes
|
||||
hardening : quotas, sémaphore, cleanup, disagreement et absence de provider preference
|
||||
public-api : registry, leader guard, quotas et canonical state restent privés
|
||||
release-completeness : présence obligatoire des trois nouveaux canaris
|
||||
```
|
||||
|
||||
## 74. Validation locale d'assemblage pre.009
|
||||
|
||||
Le toolchain Cargo/Rustfmt n'est pas disponible dans l'environnement d'assemblage. Les commandes Cargo post-modification restent `NON EXÉCUTÉ LOCAL`; seules les validations statiques effectivement exécutées et les contrôles de packaging pourront être déclarés PASS dans le delta.
|
||||
|
||||
## 75. Non-claims pre.009
|
||||
|
||||
```text
|
||||
pas de nouveaux compteurs/health publics avant pre.010
|
||||
pas de QoS/scheduler pondéré
|
||||
pas de failover provider implicite
|
||||
pas de source primary/standby
|
||||
pas de majority vote
|
||||
pas de préférence provider/tier
|
||||
pas de overwrite d'un conflit canonique
|
||||
pas de preuve live réseau nouvelle
|
||||
```
|
||||
|
||||
## 76. Gate opérateur requis avant pre.010
|
||||
|
||||
```bash
|
||||
cargo fmt --all
|
||||
cargo fmt --all -- --check
|
||||
python3 scripts/audit_rust_workspace_rules.py
|
||||
python3 scripts/audit_markdown_tables.py README.md RULES.md ROADMAP.md CHANGELOG.md docs prompts crates deltas
|
||||
cargo check --workspace
|
||||
cargo clippy --workspace --all-targets --all-features -- -D warnings
|
||||
cargo test -p ksp-onchain-transport-lib
|
||||
cargo test -p ksp-worker-raw-transaction-ingest-lib
|
||||
cargo tree -p ksp-worker-raw-transaction-ingest-lib --edges normal
|
||||
cargo tree -p ksp-worker-raw-transaction-ingest-lib -e features
|
||||
cargo tree --duplicates
|
||||
```
|
||||
|
||||
Reference in New Issue
Block a user