...
Se også dokumentasjon og flytdiagram her : Publisering av Master/Bachelor publisering
Teknisk dokumentasjon for sensurprotokoll: Bevaring av sensurprotokoll
Inc drawio | ||||||||||||||||||||||||||||||||||||||
---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
|
Nøkkel info
Initiering av flyt | Innlevering av master/bachelor-oppgaver |
|
---|---|---|
Flyt møsnter | Asynkron | Ved levering av oppgaver, sendes det webhook meldinger som trigger jobben |
Bruk av meldingskø | Ja |
; MeldingQ (Sikt egen melding-kø system basert på MongoDb, i.e. DocumentDb) |
|
| ||
Open API | Nei | |
---|---|---|
IntArk | Ikke brukt |
Bakgrunn
Det er behov for publisering av master og bachelor oppgaver. Oppgavene legges inn/lastes opp av studentene i eksamensystemet (Inspera/Wiseflow). De plukkes opp av integrasjonen og publiseres i Brage/NVA.
...
Detaljert liste av alle innvolverte systemer/tjenester Hva utveksler data? Fra hvor / Til hvor?
System | Data | Brukt API (endepunkter) |
---|---|---|
Config-databasen | setter | configDB.getSingleOrg |
Config-databasen | Henter en list fra databasen ( | configDB.getSlackBlacklist |
FS-Digex | Henter status (et JSON-objekt) på bachelor/master oppgave ifm overføring til Brage (basert på | GET:/eksamen/ferdigstatus/{examSystem}/{taskId} URL for test: https://fs-test.uio.no/eksamen/ferdigstatus/<ID>?fnr=<nr>&..... https://www.fellesstudentsystem.no/brukersider/teknisk/fsws-dok/rest/digitaleksamen.html |
Inspera | Hent resultatkandidatinformasjonen for en gitt bruker på en gitt test. Dette samsvarer nesten nøyaktig med utdata fra kandidatinformasjon i GET /test/ API, kun fokusert på en spesifikk bruker ( | GET:/v1/candidates/result/{testId}/{userId} https://api.inspera.no/apidoc/#/candidates/getCandidateResult |
Inspera | Henter alle relevante metadata | GET: /test/{testId} |
LaaS | Registrerer en indeks | do Index |
Oai-databasen | Henter en record med | oai-getRecord |
Oai-databasen | Legger til et nytt dokument i databasen | oai-addRecord |
Oai-databasen | Oppdaterer et dokument i databasen | oai-updateRecord |
Oai-databasen | Legger auditInfoMap log til databasen | oai-addAuditLog |
Oai-databasen | Hente dokumenter fra et visst antall dager tilbake ( | oai-getPassedExpectedRecords |
Oai-databasen | Legger filer ( | oai-upsertBrageFile |
Oai-databasen | Henter filer klare for opplasting ( | oai-getBrageFiles |
Oai-databasen | Henter en rekke 'repo’er for systemet ( | oai-getRepositoriesForSystem |
Amazon S3 | Overfører arkiverte filer ( | upload file: |
Slack | Sender feilmeldinger (inkludert også data på | Slack-kanalen (mule-prod) |
WISEflow | Returnerer informasjon om en innlevering ( | GET: /flow/{flowId}/submission/{submissionId} |
WISEflow | Henter opp grunnleggende informasjon for en gitt flyt som navn, type, start- og sluttdato som kan brukes til å identifisere flyten (basert på | GET: /flow/{flowId} |
Tilgangsstyring og logging
...
Behandlingstid/responstid: ca. 2s4s
Frekvens: HTTPS-‘listener’ repeterbar fillagerstrøm for datastrømmestrategi (Inspera-webhook, brage-app og oai-pmh) og 5-minutter poll timeout for Apache-Kafka forbruk for eksamensystemer (Brage-app)Den nye meldingssystemet (meldingQ) kjører uten forsinkelse på meldingskøen – lytteren til køen tar meldinger én etter én og starter behandlingen umiddelbart. Hver melding hentes direkte fra databasen, prosesseres, og status oppdateres deretter til enten ‘processed’ eller ‘failed’ i samme database-kolleksjon.
Volum (målt: ): gj.sn. ca. 23k 8k hits daglig
Feilhåndtering, konsekvenser av feil og overordnet risikoanalyse
...
Hva skjer ved overload i kø?
Det skjer ikke da kafka-køene kun har én parallell forbruker (' message queue-listener');
Hva skjer med ufullstendige meldinger?
De vil feile. Siden køen for automatiske innkommende meldinger har kafka-monitor, vil mulige feiltilfeller bli håndtert (oppdage i loggene) og vi kan ta aksjon basert på det; men hvis meldingen sendes manuelt er ingen automatisk oppfølging satt oppMeldinger med status ‘failed’ (opptil 5 ganger) eller ‘processing’ (med 10 minutters forsinkelse for å sikre at meldingen ikke allerede behandles) blir hentet fra kolleksjonen igjen i grupper på opptil 100, og behandlet i samme flyt.
Meldingssystemet bruker ‘manual’ protokoll for håndtering av bekreftelse, som betyr at prosessen fullføres med en endelig status ‘failed’ eller ‘processed’ for hver melding etter fullført behandling. Ingen meldinger skal ha status ‘processing’ eller ‘enqueued’ lengre enn forventet behandlingstid.
Inneholder meldingene personopplysninger?
Merk at det utveksles mange “meldinger” mellom ulike systemer i løpet av en integrasjon. Melinger fra eksamensystem inneholder ikke noe persondata (meldingen består av
contextObjectId
,contextObjectType
,ASSESSMENT_RUN
,associatedObjectId
,associatedObjectType
,triggeringUserId
,triggeringUserName
,timestamp
,org
,instance
,env
ogexamSystem
), men data vi henter fra FS basert på de meldingene gjør det. Filene vi arkiverer (som kommer fra eksamensystemene) kan også potensielt inneholde personopplysninger.
Noe om viktige feil/situasjoner som må passes ekstra på (som kan ha stor konsekvens) :
Oppgavene ikke arkiveres (miste meldinger)
Oppgaver arkiveres med feil info. (feiltolking eller feil logikk)
Oppgaver arkiveres med feil tilganger (slik at oppgaver som ikke skal være offentlige, arkiveres slik at de blir offentlig synlige)
...
“Brage skal fases ut og funksjonaliteten blir videreført i det som i dag har prosjektnavnet Cris/NVA. Innholdet som i dag ligger i Brage, vil bli flyttet til NVA (Nasjonalt vitenarkiv) i løpet av 2023.” (https://sikt.no/tjenester/brage-lokale-vitenarkiv )