Bakteppet er at Tyrkias president Recep Tayyip Erdogan tidligere onsdag sa at Sverige bare kan glemme å bli med i Nato så lenge de tillater brenning av Koranen.
Erdogan sa samtidig at han er positiv til Finlands inntreden i forsvarsalliansen.
Til nyhetsbyrået TT sier Billström at Sverige har levert på alle andre deler av avtalen som ble inngått mellom Sverige, Finland og Tyrkia om de to førstnevnte landenes Nato-søknader.
– Vi fortsetter å implementere avtalen. Religion er ikke en del av avtalen. Men når dét er sagt, har jeg forståelse for at man fra tyrkiske side er opprørt over det som definitivt var lovlig, men ikke respektfullt, sier Billström.
Videre sier han til TT at samtalene mellom Sverige og Tyrkia om avtalene ikke lenger foregår på ministernivå, men at han ikke mener døren definitivt er lukket for svensk Nato-medlemskap.
– Det som trengs nå, er at situasjonen kjøles ned fra alle parter. Vi fortsetter samtalene med Tyrkia om implementeringen av avtalen på tjenestemannsnivå. Det er viktig og presserende at avtalen gjennomføres, sier Billström.
Han påpeker videre at Erdogan driver valgkamp i Tyrkia, og sier at uttalelsene om koranbrenningen må ses i lys av det.
I Finland er det forbudt å vanhellige hellige skrifter, og dermed ville politiet stanset koranbrenning.
Den dansk-svenske ytterliggående høyrepolitikeren Rasmus Paludan brente Koranen i Stockholm i januar, noe som førte til sterke reaksjoner både i Tyrkia og i en rekke muslimske land.
Billström påpeker overfor TT at slike aksjoner er vernet av ytringsfriheten i Sverige.
– Vi kompromisser ikke om ytringsfriheten. Det er veldig tydelig hva som kreves for at Sverige skal bli medlem av Nato, og det er at vi oppfyller kravene som står i det trilaterale memorandumet. Det kommer vi til å gjøre innenfor rammene som er satt av vår grunnlov, vårt lovverk og prinsipper for rettssikkerheten, sier utenriksministeren.