有理数点で不連続・無理数点で連続なトマエ関数の定義・性質

任意に$\gamma\in\R\setminus\Q$をとる．このとき，$\gamma+1\in\R\setminus\Q$なので，$f(\gamma)=0=f(\gamma+1)$が成り立つ．

任意に$r\in\Q$をとる．このとき，$r=\frac{q}{p}$（$p\in\{1,2,\dots\}$と$q\in\Z$は互いに素）と表せる．ユークリッドの互除法により$p+q$と$p$の最大公約数と，$p$と$q$の最大公約数は等しい．

$p$と$q$は互いに素だったから，$p+q$と$p$も互いに素となるので

\begin{align*}f(r+1)=f\bra{\frac{p+q}{p}}=\frac{1}{p}=f\bra{\frac{q}{p}}\end{align*}

が成り立つ．

以上より，任意の$x\in\R$に対して$f(x+1)=f(x)$が成り立つから，$f$は周期１の周期関数である．

$\Q$上で不連続であることの証明

任意に$r\in\Q$をとる．このとき，$r=\frac{q}{p}$（$p\in\{1,2,\dots\}$と$q\in\Z$は互いに素）と表せる．

ここで，$\epsilon=\frac{1}{p+1}$とおき，任意に$\delta>0$をとる．$\R$における$\R\setminus\Q$の稠密性より$|r-x|<\delta$を満たす$x\in\R\setminus\Q$が存在するから，

\begin{align*}|f(r)-f(x)|=\abs{\frac{1}{p}-0}=\frac{1}{p}>\epsilon\end{align*}

が成り立つ．よって，$f$は$\Q$上で不連続である．

$\R\setminus\Q$上で連続であることの証明

任意に$\gamma\in\R\setminus\Q$をとる．任意に$\epsilon>0$をとり，$N:=\lceil\frac{1}{\epsilon}\rceil$とおく．ここで，

\begin{align*}\delta_n:=\min_{k\in\Z}\abs{\gamma-\frac{k}{n}},\quad
\delta:=\min_{n\in\{1,2,\dots,N\}}\delta_n\end{align*}

とおくと，$|\gamma-t|<\delta$のとき

• $t$が無理数なら$f(t)=0$
• $t$が$\frac{q}{p}$（$p\in\{1,2,\dots,N\}$, $q\in\Z$）の形には表せない有理数なら$f(t)<\frac{1}{N}$

なので，

\begin{align*}|f(\gamma)-f(t)|=\abs{0-f(t)}=f(t)<\frac{1}{N}\le\epsilon\end{align*}

が成り立つ．よって，$f$は$\R\setminus\Q$上で連続である．

$f$は非負値かつ周期１の周期関数なので，$[0,1]$上でリーマン積分可能$\dint_{0}^{1}f(x)\,dx=0$となることを示せばよい．そのために，$[0,1]$上の$f$の上積分$S_U$と下積分$S_L$がいずれも０に等しいことを示せばよい．

下積分が０であることの証明

任意に$[0,1]$の分割を考える．

$\R$における$\R\setminus\Q$の稠密性とトマエ関数$f$の定義より，分割の各小区間上で$f$は最小値０をとる．

よって，$f$の下方和は$[0,1]$の分割によらず０なので$S_L=0$を得る．

上積分が０であることの証明

任意に$\epsilon\in(0,1)$をとる．$\epsilon<f(x)$となる$x\in[0,1]$は有限個で，この個数を$N_\epsilon$とおく．また，$[0,1]$の分割

\begin{align*}\Delta:0=x_0<x_1<\dots<x_n=1\end{align*}

に対して$|\Delta|:=\max\limits_{i\in\{1,2,\dots,n\}}(x_i-x_{i-1})$とおき，$|\Delta|<\epsilon/N_\epsilon$となるようにとる．

• $\epsilon<f(x)$となる$x$が属さない小区間での$f$の上限は$\epsilon$以下
• $\epsilon<f(x)$となる$x$が属する小区間での$f$の上限は１以下

なので，

• $\epsilon<f(x)$となる$x$が属さない小区間を$I_1,\dots,I_k$
• $\epsilon<f(x)$となる$x$が属する小区間を$J_1,\dots,J_\ell$

とすると，分割$\Delta$に関する$f$の上方和$S_\Delta$について

\begin{align*}S_\Delta\le\sum_{i=1}^{k}\epsilon\cdot|I_i|+\sum_{j=1}^{\ell}1\cdot|J_j|
\le\epsilon+2N_\epsilon|\Delta|
<3\epsilon\end{align*}

が成り立つ．ただし，$j$に関する和の評価では$\epsilon<f(x)$となる$x\in[0,1]$が小区間の境界上にある場合に注意して$\ell\le2N_\epsilon$であることを用いた．

よって，$0=S_L\le S_U\le S_\Delta<3\epsilon$なので，$\epsilon>0$の任意性と併せて$S_U=0$を得る．

任意に$a\in\R$をとる．任意に$\epsilon>0$をとり，$N:=\lceil\frac{1}{\epsilon}\rceil$とおく．ここで，

\begin{align*}\delta_n:=\min_{k\in\Z,a\neq k/n}\abs{a-\frac{k}{n}},\quad
\delta:=\min_{n\in\{1,2,\dots,N\}}\delta_n\end{align*}

とおくと，$0<|x-a|<\delta$のとき

• $x$が無理数なら$f(x)=0$
• $x$が$\frac{q}{p}$（$p\in\{1,2,\dots,N\}$, $q\in\Z$）の形には表せない有理数なら$f(x)<\frac{1}{N}$

なので，

\begin{align*}f(x)-f(a)\le f(x)-0<\frac{1}{N}\le\epsilon\end{align*}

が成り立つ．よって，$0<|x-a|<\delta$のとき$f(x)<f(a)+\epsilon$が成り立つから，$f$は$\R$上で上半連続である．また，$x=a$のときも$f(x)=f(a)<f(a)+\epsilon$が成り立つ．

$\R$における$\Q$の稠密性より，ある$c=\frac{q}{p}\in\Q$（$p\in\{1,2,\dots\}$と$q\in\Z$は互いに素）が存在して$c\in(a,b)$が成り立つ．

また，$N:=\lceil\frac{1}{p(b-c)}\rceil$とおくと，$n=N+1,N+2,\dots$に対して$r_n:=c+\frac{1}{pn}\in(a,b)$かつ$f(r_n)\ge\frac{1}{pn}$が成り立つ．

そこで，$m\in\{1,2,\dots\}$に対して$[a,b]$の分割$\Delta_m$を

• $x_0=a$, $x_{2m+1}=b$
• $x_{2n+1}=r_{N+m-n}$（$n=0,1,\dots,m-1$）
• $x_{2n+2}\in(x_{2n+1},x_{2n+3})$は無理数（$n=0,1,\dots,m-1$）

で定める．$\Delta_m$に対する$f$の変動$V_{\Delta_m}(f)$は

\begin{align*}V_{\Delta_m}(f)
&\ge\sum_{n=0}^{m-1}|f(x_{2n+1})-f(x_{2n+2})|
\\&=\sum_{n=0}^{m-1}|f(r_{N+m-n})-0|
\\&\ge\frac{1}{p}\sum_{n=N+1}^{N+m}\frac{1}{n}\end{align*}

が従う．$\sum_{n=N+1}^{\infty}\frac{1}{n}=\infty$なので，

\begin{align*}\sup\limits_{\Delta}V_{\Delta}(f)\ge\sup\limits_{m\in\N}V_{\Delta_m}(f)=\infty\end{align*}

となるから，$f$は$[a,b]$上で有界変動でない．