En un cuadrado inscrito en una circunferencia, la diagonal del cuadrado es igual al diámetro de la circunferencia.
En el problema que planteas:
D = 2r = 2x5 = 10 cm
La diagonal del cuadrado forma dos triangulos rectángulos con los lados como catetos.
d^2 = l^2 + l^2 (Pitagoras)
10^2 = 2l^2
2l^2 = 100
l = (raiz de 50)
Area = lxl = l^2
A = (raiz de 50)^2 = 50
Area cuadrado = 50 cm^2
