
<!DOCTYPE html>

<html>

<head>

<meta http-equiv="Content-Type" content="text/xhtml; charset=utf-8">

</head>

<body>

<div style="font-family:sans-serif"><div style="white-space:normal"><p dir="auto">I think one of the shortcomings of machine learning is that it can learn but has no insight.</p>

<p dir="auto">A recent lesson about this comes from David Heinemeier Hansson, who reported that Apple Card gave him a credit limit 20x that of his wife. They live in a community property state, file a joint tax return, and have been married a long time. Steve Wozniak reported the same thing with a 10x factor. Goldman Sachs has a problem ¯\_(ツ)_/¯. Of course they can’t really explain why their AI turned out so sexist. Is the only way to correct this to throw out the current model and restart the learning from scratch? Is there any other way to correct this?</p>

<p dir="auto">—Barry</p>

<br><p dir="auto">On 21 Jul 2021, at 12:08, Roger Critchlow wrote:</p>

<blockquote style="border-left:2px solid #777; color:#777; margin:0 0 5px; padding-left:5px"><p dir="auto">The current neural network based AI does add novelty to the solution. It learns and gains insight from the data in ways that humans can not.</p>

</blockquote></div>

</div>

</body>

</html>