税金（所得税）とセキュリテソシアルの掛け金は別、と考えましょう。
Ameliという、セキュリテソシアルを管轄する機関内のQ＆Aをみると、エキスパートがワーキングホリデー保持者はセキュリテソシアル（健康保険等）の恩恵を受けられないので、加入はできないのでフランスに入国する前に加入した海外旅行保険や、個人で入っている保険を使うようにと言う回答をいくつか目にしました。私が見た回答は2年前なので変わっているかもしれませんし、ワーホリだけど加入できたという人もいるかもしれませんけども。その辺は、雇い主に調べてもらう・自分でアメリに相談するなどしてみましょう。

その他税金については、私はワーホリしたことないので分かりませんが、numéro fiscal と numéro d'accèsの記入してある手紙が届くのであればネットで所得申告ができます。来ない場合は、Centre des Finances Publiquesの窓口で。わからないことは、在仏日本人会に入会すると（有料）専門家が相談にのってくれるのではなかったでしょうか。また、フランスでいくら稼ぐかわかりませんがワーホリは一年で日本に帰国しますし、主な居住地は日本になると思います。下のようなこともありますので、気になるのであれば調べてみては
https://www.zeiri4.com/c_1076/q_97742/

参考になった