이규담 박사님, 고생하셨는데
제가 답변을 하도록 노력해 보겠습니다...

A=0는 말이 안되지요...
우선 미지변수가 A, B, C 세개니까
방정식이 3 가지가 있어야 풀 수 있습니다.
그런데 그 세가지는 서로 독립적인 상황이 식으로 표현되어야 합니다...

여기서는
(1) 정사각형 면적이 100이라는 것,
(2) 1/4원 두개의 면적이 합쳐서 157이되는데 그림에서 겹치는 부분을 잘보고 방정식을 만들면 되며
(3) 이웃한 두원이 겹친 면적을 자세히 보면 60도를 가지는 원인 1/6원 두개가 겹치는 모양으로 안에 내접하는 정사각형 만큼 넓이가 중복으로 겹치게됩니다...

그래서 방정식을 만들면

4A+4B+C=100 .... (1)
4A+6B+2C=157 ...... (2)
A+2B+C=(52+1/3)X2-25(3)1/2승 .....(3)

여기서 (3)1/2승 은 루트3을 표현한것입니다.

이것을 푼 결과는 루트3 때문에 무리수로 표현되나 풀어보면
A=4.3653964...
B=12.7692...
C=31.4615856...
로 나와 그림의 모양에서 보는 면적과 잘일치하는 듯 보입니다.

이거푸는데 하이라이트 하나 분석하는 정도의 시간이 걸렸습니다...
그러면 또 재미난 글 많이 올리시기 바라며...

수고하십시요..

김 충 석 드림