...
Teknisk dokumentasjon for sensurprotokoll: Bevaring av sensurprotokoll
| Inc drawio | ||||||||||||||||||||||||||||||||||||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
|
...
Initiering av flyt | Innlevering av master/bachelor-oppgaver |
|
|---|---|---|
Flyt møsnter | Asynkron | Ved levering av oppgaver, sendes det webhook meldinger som trigger jobben |
Bruk av meldingskø | Ja, Apache Kafka; MeldingQ (Sikt egen melding-kø system basert på MongoDb, i.e. DocumentDb) |
|
Open API | Nei | |
IntArk | Ikke brukt |
...
Behandlingstid/responstid: ca. 2s4s
Frekvens: HTTPS-‘listener’ repeterbar fillagerstrøm for datastrømmestrategi (Inspera-webhook, brage-app og oai-pmh) og 5-minutter poll timeout for Apache-Kafka forbruk for eksamensystemer (Brage-app)Den nye meldingssystemet (meldingQ) kjører uten forsinkelse på meldingskøen – lytteren til køen tar meldinger én etter én og starter behandlingen umiddelbart. Hver melding hentes direkte fra databasen, prosesseres, og status oppdateres deretter til enten ‘processed’ eller ‘failed’ i samme database-kolleksjon.
Volum (målt: ): gj.sn. ca. 23k 8k hits daglig
Feilhåndtering, konsekvenser av feil og overordnet risikoanalyse
...
Hva skjer ved overload i kø?
Det skjer ikke da kafka-køene kun har én parallell forbruker (' message queue-listener');
Hva skjer med ufullstendige meldinger?
De vil feile. Siden køen for automatiske innkommende meldinger har kafka-monitor, vil mulige feiltilfeller bli håndtert (oppdage i loggene) og vi kan ta aksjon basert på det; men hvis meldingen sendes manuelt er ingen automatisk oppfølging satt oppMeldinger med status ‘failed’ (opptil 5 ganger) eller ‘processing’ (med 10 minutters forsinkelse for å sikre at meldingen ikke allerede behandles) blir hentet fra kolleksjonen igjen i grupper på opptil 100, og behandlet i samme flyt.
Meldingssystemet bruker ‘manual’ protokoll for håndtering av bekreftelse, som betyr at prosessen fullføres med en endelig status ‘failed’ eller ‘processed’ for hver melding etter fullført behandling. Ingen meldinger skal ha status ‘processing’ eller ‘enqueued’ lengre enn forventet behandlingstid.
Inneholder meldingene personopplysninger?
Merk at det utveksles mange “meldinger” mellom ulike systemer i løpet av en integrasjon. Melinger fra eksamensystem inneholder ikke noe persondata (meldingen består av
contextObjectId,contextObjectType,ASSESSMENT_RUN,associatedObjectId,associatedObjectType,triggeringUserId,triggeringUserName,timestamp,org,instance,envogexamSystem), men data vi henter fra FS basert på de meldingene gjør det. Filene vi arkiverer (som kommer fra eksamensystemene) kan også potensielt inneholde personopplysninger.
Noe om viktige feil/situasjoner som må passes ekstra på (som kan ha stor konsekvens) :
Oppgavene ikke arkiveres (miste meldinger)
Oppgaver arkiveres med feil info. (feiltolking eller feil logikk)
Oppgaver arkiveres med feil tilganger (slik at oppgaver som ikke skal være offentlige, arkiveres slik at de blir offentlig synlige)
...
“Brage skal fases ut og funksjonaliteten blir videreført i det som i dag har prosjektnavnet Cris/NVA. Innholdet som i dag ligger i Brage, vil bli flyttet til NVA (Nasjonalt vitenarkiv) i løpet av 2023.” (https://sikt.no/tjenester/brage-lokale-vitenarkiv )