Rollöversikt:
Konsulten kommer att vara ansvarig för att undersöka och utvärdera olika metoder för att integrera generativa språkmodeller i våra mjukvaruprodukter. Detta inkluderar att utforska både lokal implementering på Windows- och iOS-plattformar samt molnbaserade lösningar.

Ansvarsområden

• Undersökning av lokal implementering:
  • Identifiera generativa språkmodeller som är lämpliga för lokal implementering på Windows och iOS.
  • Utvärdera prestanda och kompatibilitet för dessa modeller med målplattformarna.
• Optimera och testa modeller:
  • Identifiera och utvärdera tekniker för att optimera lokal prestanda, såsom kvantisering, beskärning och kunskapsdestillation.
  • Genomföra noggranna prestandatester på målplattformar, inklusive iPadOS och Windows.
  • Benchmarka nyckelmetrik som resursförbrukning, hastighet och energianvändning genom att skapa reproducerbara prestandatestuppsättningar och metoder.
  • Fintuna utvalda modeller för att stödja specifika användningsfall.
• Utvärdering av molnbaserade modeller:
  • Bedöma genomförbarheten och prestandan hos molnbaserade generativa språkmodeller för integration med vår mjukvara.
  • Benchmarka kvalitet och prestanda genom att identifiera och mäta nyckelmetrik, inklusive fördröjning vid inferens, genomströmning och skalbarhet.
• Finansiell och efterlevnadsanalys:
  • Analysera den ekonomiska påverkan av att använda olika molnbaserade modeller, med hänsyn till prenumerationsavgifter, datalagringskostnader och användningsavgifter.
  • Undersöka sekretess- och efterlevnadsfrågor, och säkerställa att vi följer GDPR och andra relevanta regleringar.
• Utveckla rekommendationer:
  • Ge detaljerade rekommendationer för både lokal och molnbaserad modellintegration.
  • Skissera potentiella nästa steg, inklusive ytterligare optimering, omfattande testning eller produktionsintegration.
  • Föreslå långsiktiga strategier för att upprätthålla och förbättra implementerade modeller.

Färdigheter och kvalifikationer

• Dokumenterad erfarenhet av maskininlärning och generativ AI.
• Expertis i att implementera och testa AI-modeller på både Windows- och iOS-plattformar.
• Stark bakgrund inom prestandautvärdering och optimering av AI-modeller.
• Bekantskap med molnbaserade AI-lösningar och deras integration.
• Förståelse för sekretess- och säkerhetsfrågor, särskilt GDPR-efterlevnad.
• Utmärkta analytiska och problemlösningsförmågor.
• Stark kommunikationsförmåga för att dokumentera processer och ge tydliga rekommendationer.

Uppdraget kräver att konsulten är på plats på kontoret i Stockholm minst 3 dagar i veckan.