PhD Positie AI Alignment: op waarden gebaseerde Beoordelingsmethoden voor AI systemen

Challenge: Op waarde gebaseerde beoordelingsmethoden ontwikkelen voor AI-systemen.
Change: Aanjagen van validatie van AI-systemen om ervoor te zorgen dat alleen betrouwbare modellen worden gebruikt.
Impact: De betrouwbaarheid van de politie vergroten door AI alignment.
 

Functieomschrijving
AI alignment verwijst naar het doel om AI-systemen zich te laten gedragen in lijn met menselijke intenties en waarden. Met de snelle toename van AI systemen en hun groeiende mogelijkheden, zijn er evenveel risico's op verkeerde afstemming. Het valideren van modellen is een cruciale stap voordat er beslissingen kunnen worden genomen over implementatie en is belangrijk voor het continu monitoren van systemen die in gebruik zijn. De uitdaging is echter dat validatie moet gebeuren op basis van verschillende waarden die belangrijk zijn voor AI bij de politie: nauwkeurigheid, maar ook eerlijkheid, betrouwbaarheid, betrouwbaarheid en meer moeten worden gewaarborgd.

Als PhD aan de TU Delft doe je impactvol onderzoek naar twee belangrijke aspecten in het bevorderen van verantwoord gebruik van AI binnen de politie.Ten eerste onderzoek je de normen en waarden rondom het gebruik van AI, in het bijzonder met betrekking tot open modellen. Dit houdt in dat je definieert aan welke criteria deze modellen moeten voldoen, naast algemene overwegingen als bias en eerlijkheid. Je onderzoekt door middel van diepgaande casestudies bij de politie met welke waarden AI-systemen in overeenstemming moeten zijn. Ten tweede zul je ook methoden ontwerpen om een reeks modellen systematisch te evalueren aan de hand van deze vastgestelde normen en waarden. Deze bijdrage zorgt voor een verantwoorde inzet van AI binnen de politie, bevordert ons begrip van hoe AI-modellen in de praktijk op elkaar moeten worden afgestemd en maximaliseert de efficiëntie van het gebruik van publiek beschikbare modellen.

Door deze inspanningen draag je aanzienlijk bij aan het bevorderen van het belangrijke gebied van AI alignment en help je bij het bevorderen van een ethische en verantwoordelijke AI-cultuur binnen de organisatie.

Je project maakt deel uit van het Model-Driven Decisions Lab, een Politie-TU Delft initiatief, waar je deel uitmaakt van een interdisciplinaire gemeenschap van vier collega-promovendi, die al zijn aangenomen. Samen zullen jullie kennis delen om AI-ondersteunde besluitvorming vanuit verschillende perspectieven aan te pakken. Om nauwe samenwerking met de stakeholders te bevorderen en te werken aan praktische implementatie, zul je 20% van je tijd doorbrengen bij de afdeling strategie en innovatie van de politie. Gezien de ethische en morele facetten van je onderzoek werk je ook nauw samen met collega's van het Delft Digital Ethics Centre van de faculteit Technologie, Beleid en Management (TBM). Je thuisbasis is de onderzoeksgroep Web Information Systems van de faculteit Electrotechniek, Wiskunde en Informatica (EWI). Als internationaal divers team van gedreven academici en studenten cultiveren we een gastvrije en coöperatieve omgeving. We geven je alle ondersteuning en training die je nodig hebt om je zowel persoonlijk als professioneel te ontwikkelen.

Lees hier verder over jouw project in het Model-Driven Decisions Lab.

Functie-vereiste

• Je hebt een MSc in computerwetenschappen, data science of een ander relevant onderwerp zoals ethiek van AI, met praktische cursussen in machine learning/kunstmatige intelligentie en relevante project- en scriptie-ervaring.
• Je hebt een grote interesse in AI alignment, Human-AI interactie en explainable AI en werkt graag samen met experts uit verschillende disciplines.
• Je vindt het leuk om onderzoek te doen dat gericht is op toepassing in de praktijk in het veiligheidsdomein en je bent intrinsiek gemotiveerd om samen te werken met de politie.
• Je beschikt over communicatievaardigheden om samen te werken met verschillende wetenschappelijke en niet-wetenschappelijke stakeholders in verschillende werkculturen.

Je beschikt over een goede beheersing van de Engelse taal in woord en geschrift, aangezien je zult werken in een internationale omgeving. Omdat je samenwerkt met de politie, is een goede beheersing van de Nederlandse taal een eerste vereiste voor een geschikte kandidaat. Dit is een sterke vereiste vanwege de context van het project, waarbij interacties met belanghebbenden en gegevens in de Nederlandse taal nodig zijn.

TU Delft 

De Technische Universiteit Delft heeft een sterk fundament. Als bouwer van de wereldberoemde Nederlandse waterwerken en pionier in biotech is TU Delft een internationale topuniversiteit die wetenschap, engineering en design combineert. TU Delft staat voor onderwijs, onderzoek en innovatie van wereldklasse om uitdagingen op het gebied van energie, klimaat, mobiliteit, gezondheid en digitale maatschappij aan te gaan. Generaties Delftse ingenieurs hebben bewezen ondernemende probleemoplossers te zijn in bedrijfsleven en in sociale context. 

Bij TU Delft omarmen we diversiteit als een van onze kernwaarden en zetten we ons actief in om een universiteit te zijn waar jij je thuis voelt en kunt floreren. We hechten veel waarde aan verschillende perspectieven en kwaliteiten, omdat wij geloven dat dit ons werk innovatiever, de TU Delft-gemeenschap levendiger en de wereld rechtvaardiger maakt. Samen bedenken en ontwikkelen we oplossingen die een positieve invloed hebben op wereldwijde schaal. Daarom nodigen we jou uit om te solliciteren. Je sollicitatie krijgt een eerlijke behandeling. 

Challenge. Change. Impact! 

Faculteit Elektrotechniek, Wiskunde en Informatica 

De faculteit Elektrotechniek, Wiskunde en Informatica (EWI) verenigt drie wetenschappelijke disciplines. Samen versterken ze elkaar en zijn ze de drijvende kracht achter de technologie die we allemaal in ons dagelijks leven gebruiken. Technologie zoals het elektriciteitsnet, dat duurzaam en toekomstbestendig wordt gemaakt door onze faculteit. Tegelijkertijd ontwikkelen wij de chips en sensoren van de toekomst en leggen wij de basis voor de softwaretechnologieën die op deze nieuwe generatie apparatuur gaan draaien – waaronder natuurlijk AI. Ondertussen verleggen wij de grenzen van de toegepaste wiskunde, bijvoorbeeld door ziekteprocessen in kaart te brengen met informatie over individuele cellen en door met wiskunde gigantische aswolken na een vulkaanuitbarsting te simuleren. Met andere woorden: op de faculteit is volop ruimte voor baanbrekend onderzoek. We leiden innovatieve ingenieurs op en beschikken over uitstekende laboratoria en faciliteiten die onze sterke internationale positie onderstrepen. In totaal werken en studeren meer dan 1000 medewerkers en 4000 studenten in deze innovatieve omgeving. 

Klik hier om naar de website van faculteit Elektrotechniek, Wiskunde en Informatica te gaan. 

Arbeidsvoorwaarden

Promovendi krijgen in principe een dienstverband voor 5 jaar, maar in de vorm van 2 arbeidsovereenkomsten. Een eerste contract van 1,5 jaar met een officiële go/no go voortgangsbeoordeling binnen 15 maanden. Gevolgd door een aanvullend contract voor de resterende 3,5 jaar, ervan uitgaande dat alles goed gaat en aan de prestatie-eisen wordt voldaan. Het extra vijfde jaar (vergeleken met een standaard PhD-programma van 4 jaar) biedt ruimte voor de extra activiteiten om de politieorganisatie te leren kennen en de resultaten in de politieorganisatie te borgen.

Het salaris en de secundaire arbeidsvoorwaarden zijn conform de CAO Nederlandse Universiteiten en lopen op van € 2901 per maand in het eerste jaar tot € 3707 in het vierde jaar. In het 5e jaar ontvang je een tijdelijke maandelijkse toelage gebaseerd op het bruto verschil tussen salarisschaal P, trede 3 en salarisschaal 10, trede 3.

Als promovendus word je ingeschreven bij de TU Delft Graduate School. De TU Delft Graduate School biedt een inspirerende onderzoeksomgeving met een uitstekend team van begeleiders, wetenschappelijk personeel en een mentor. Het doctoraatsprogramma is gericht op het ontwikkelen van je overdraagbare, discipline-gerelateerde en onderzoeksvaardigheden. De TU Delft biedt een flexibel compensatiepakket, korting op de ziektekostenverzekering en een maandelijkse bijdrage in de werkkosten.Flexibele werkroosters zijn mogelijk.

Voor internationale sollicitanten heeft TU Delft de Coming to Delft Service. Deze service biedt informatie voor nieuwe internationale werknemers om je te helpen de verhuizing voor te bereiden en je te vestigen in Nederland. De Coming to Delft Service biedt een Dual Career Programme voor partners en ze organiseren evenementen om je (sociale) netwerk uit te breiden.

Additionele informatie
Als je meer informatie wilt over deze functie, neem dan contact op met Dr. Ujwal Gadiraju, e-mail: U.K.Gadiraju@tudelft.nl.

Sollicitatie procedure
Ben je geïnteresseerd in deze vacature? Solliciteer dan vóór 10 februari 2025, via de sollicitatiebutton en upload je motivatie en CV. Sollicitatiegesprekken vinden plaats in de week van 17 februari 2025.

Screening
Omdat je gaat werken in het veiligheidsdomein, moet je een veiligheidsscreening ondergaan uitgevoerd door de Nederlandse overheid voordat je aan deze functie begint. Deze screening duurt gemiddeld 2 tot 3 maanden duren en kan oplopen tot 6 maanden. Een positieve uitkomst van de screening is een voorwaarde voor het ingaan van het contract voor deze PhD-functies.Voor deze PhD posities is minimaal een BO screening nodig.

Let op:

• Solliciteren gaat eenvoudig online. Sollicitaties die per email en/of post worden verstuurd nemen we niet in behandeling. 
• Een pre-employment screening kan onderdeel zijn van de selectieprocedure. 
• Een kennisveiligheid check maakt deel uit van de selectieprocedure.
  (voor details pagina 45: nationale leidraad kennisveiligheid)
• Acquisitie naar aanleiding van deze vacature wordt niet op prijs gesteld.