Correct option is A
Solution:
Option A: X={(x,y)∣x2+y2≥5}This represents the exterior (including boundary) of a circle centered at the origin.It is not convex because a line segment joining two points in this region may pass through the interior of the circle,which is not included in the set. So, this set isnot convex. Option B: X={(x,y)∣∣x∣≤3,∣y∣≤2}This represents a closed rectangle. The line segment joining any two points in this set lies entirely within the set.=>Convex Option C: X={(x,y)∣5x−y=4}This is a straight line, and all lines are convex sets.=>Convex Option D: X={(x,y)∣2x−y≤3}This is a half-plane (including the boundary line), and half-planes are convex.=>ConvexCorrect Answer: Option A (not convex)