Låt oss "rita" neuronnäts-konceptet ganska annorlunda

Säg att vi har "neuron" a, b och c i vad vi kallar lager i.

I lager två har vi "neuroner" av en annan typ där vi har en st som opererar på tillståndet / utvärdet / jämförbart från nod a och b. En som gör det nod a och c. O.s.v. i alla möjliga kombinationer föregående lager.

Vi väljer nu att sluta kalla neuronerna av typ två för neuroner. Istället kallar vi dem relationer / anslutningar. Och knoppar av vårt utvärde som vad vi sorterar utifrån någon eller båda neuroner de utnyttjar i föregående lager.

Varje sådan relation uttryckande / lärande sig mest nära tillhands att tänka sig korrelationen mellan dem ev. under en verklighet någonstans i andra lager efter oss önskat.

Givetvis kan man införa en tredje sorts neuron som hanterar en bunt tänkbara relationer till neuroner bakom dem abstraherat som samlat där. Kanske rent av mer naturligt om ens bas-datatyp är matris i Matlab, matematiken, eller jämförbart. Medan som skissat innan känns tror jag mer naturligt om vi tänker oss preferens i graf-datatyper och representationer.

Jag tror också att det kanske oftare är mer uppenbart vad den första strukturerings-typen egentligen gör. Samlar korrelation mellan två stycken saker. Vilket vi givetvis kan göra också per position i resp. ex. tillståndsvektor där. O.s.v.. Än när abstraktionen är en kallad neuron där en mängd sådana anslutningar via vikter i en matris mer "gömt" via gradient descent typiskt lär sig resp. vikt anslutnings-kombinationer.

Men jag har å andra sidan aldrig upplevt neuronnät som typiskt uttrycka naturliga för mig. Backpropagation tycker jag är en vettig inte helt ovanlig värdefull primitiv som jag förövrigt flera gånger använt utan att tänka på att det är samma sak som backpropagation. En bra ofta antagen mer magisk - och ovanpå det inlärning man helt unikt valt att kalla gömd för mellan-lager i neuronnäten emedan vi varken i hårdvara eller mjukvara pratar om gömda delstegment annars - men kan inte för allt i världen förstå hur man annat än att rita om ett neuronnät kan se hur och var det bygger sin korrelation. Jag kan ej visualisera mentalt som neuronnät men däremot grafer.

Korrelation mellan givet sorterade datakanaler, resp. och / eller positioner data där, och / eller positioner och datakanaler i varje kombination. Ev. abstraherat mer kämpat kanske tydliga kanaler eller tidsförskjutningar i korrelationer mellan korrelationer etablerade mellan kombinationer redan. Så som vad som händer tid i i mening korrelations-skattande till tiden i, och vad helst som uttrycker sig och vi önskar. Väldigt vanliga koncept i mängd varianter för en ej nod-bred värld i sådant som stokastiska processer, wiener processer m.m. Sedan är självklart begrepp som Deep Neuronnets helt icke-specifika. Medan koncept som Wienerprocesser tor jag har väldigt stor preferens att just göra operationer mellan "lager" (d.v.s. ett 1-dim. värde vid dag A, ett vid dag B, någon vikt kombinerande dem vid värdet idag o.s.v.) betraktade gärna som diskreta tidpunkter. Jag vågar ej riktigt stanna på egen-konvergens av att förstå koncepten Deep här som i princip vara processer över vad vi kan se ligga i vilken som helst preferens representation graf- / neuronnät / rörsystem för vatten-transport / eller vad helst nästan enligt tidigare. Det är väl kanske tecken på att det oavsett vad konceptet är i övrigt ej egentligen är mer resonemangs-optimerat än ANN var. Vill man ha magi man klarar att acceptera idag - och kanske rationellt stimulerande en del bra blackbox-tänk - är kanske representationer så som uttryckta i neuronnät kontra mer begripliga som är exakt samma sak.

Konvergens en neuron vs en grupp av neuroner

Betrakta 1 st neuron bestående i förenkling endast av dendrit-träd resp. "grund-funktion". Dendrit-träd ger potentiellt vinkeln aktivitet inkommer med. Antar vi också kommunikation bakåt från dendrit-träd och grundfunktion kan vi likt Max-Planck (tror jag det var) spekulera om att biologiska neuronnät gör back-propagation (att något potentiellt elektro-kemisk information passerar bakåt tycks för mig sedan en 5 - 8 år cirka vara givet från hur jag bedömde det då publicerat. Men jag har föga och kanske inte alls följt upp det där efter).

D.v.s. säg att vi endast har en sändande neuron i lager bakom dendrit-träd vi betraktar. Var vi får centralitet i dendrit-träd är en approximation av hur långt ifrån mitten på lager bakom sändare finns om avståndet är känt mellan lagren. Antar vi ett medelvärdet av allt någonsin kommunicerat innan befinner sig nära nog exakt framför mitten på dendrit-trädet (vilket det i biologiska neuronnät kommer göra eftersom neuronen växer mot det som sänder) är avståndet (eller riktigare uttryckt dess funktionella motsvarighet) känd.

P.s.s. kan vi betrakta en grupp av neuroner. Där resp. neuron uttrycker inlärning av en variant (existerande som meningsfull) av vad neuron-gruppen övergripande handlar om. Ex. kan det som noterat via avbildning aktivitet biologiska neuronnät i människa i numera en myckenhet publicerat vara sådant som varianter av en välkänd människa. Så som en kändis.

Centralitet för aktivitet i grupp av neuron. Den position vi konvergerat till i gruppen när vi också i detekterande neuroner (kanske något likt vad spekulerat i Stanford researchers surprised to find how neural circuits identify information needed for decisions ytterst eller i ett eller flera strukturellt hierarkiska tänkta steg nedanför. Själva poängen i vad vi antar är även om ej riktigt relevant för vad vi diskuterar att relevanta konvergenser i hjärnan kan vara topologiskt tämligen distansierade vilket gör det svårt att utnyttja dem tillsammans utan just något övergripande strukturellt ej av samma typ som kan ta upp resp. konvergens på ett nytt övergripande lager) i och utanför gruppen betraktar den samlande aktiviteten för hela gruppen uttrycker en approximation av verkligheten just nu. D.v.s. aktivitet neuron i viktad med dess avstånd till centraliteten, aktivitet neuron ii viktad med dess avstånd centralitet o.s.v. Vi kan också jämföra detta med den förväntade centraliteten utifrån aktivitet detektor tränad mot den typiska mitten av neuron gruppen tar upp. Är aktivitets-vikten hela gruppen vad vi nöjer oss med att få i en dimension d.v.s. datatyp double / float snarare än en vektor av double / float datatyper räcker det bra med att nöja sig med aktivitet hos denna medan vi behöver utnyttja fler detektorer annars (också styrt av exakthet avbildning).

Traditionellt bra mycket relaterat inlärning koncept i vad som ger eller utnyttjar similarity vill gärna se varje koncept som i någon mening likvärdigt alla andra. Det har fördelen att vi potentiellt kan jämföra alla av dem. Eller enklare säga att ord A som knappt förekommer alls idag i dagligt tal är nästan eller troligt helt synonymt med ord B som är mycket vanligt idag men knappt förekom i någon bibel-variant äldre än 100-år.

Emellertid är nu resp. sådant koncept ej likvärdiga i nivå de potentiellt ex. kan uppröra någon. En person A representerad som oljemålning, tillfälle vi såg personen tala m.m. varianter som genom en personlig erfarenhet lätt konvergerar till en tydlig punkt upprepningsbar utan variationer för samma ny upplevelse är resp. ej lika "emotionella" (potentiellt upprörande / kvinnligt-tänkande - för att ge ett kanske enklare exempel - åtminstone billigt att skapa - resp. via komplettering pekande på kvinnor upprörda över erotika som säljs i butiker visande att intensiteten i sig har sina poler). D.v.s. vi kan se att:

• Vi kan ha en semantisk mitt som har föga med hur upprörande någon semantisk variant av bakomliggande samma sak.
• Konvergens i neuron-grupp har här föga med resp. inlärd variants emotionalitet.
• Vi kan vikta en sådan konvergens över gruppen med denna punkts intensitet.

Detta är ofta en funktionell approximation av hur jag tror människa väldigt ofta fungerar. Undantag existerar emellertid och jag tror kanske alla dessa kan sammanfattas med upp- och ner-sidan av vad vi samlat väljer att kalla danger. Viktar vi resp. neuron i neuron-gruppen med dess emotionella intensitet gäller att vi troligare för samlad konvergens något godtyckligt som ej perfekt stämmer in med någon enskild neuron kommer att konvergera till en mitt som troligare är felaktig rent semantiskt. Betrakta en oljemålning av scen från Vietnamkriget får vi flash-back från personlig upplevelse av Vietnamkriget d.v.s. defekt användning av strategin tolkning. Medan denna mer kostsamma konvergens-algoritm - mer kostsam genom att den kommer ge en troligare per fall defekt konvergens som fordrar "manuell" kontroll av prefrontala kortex för att reflektera om fara / hot är verkligt - i andra situationer kan vara motiverad därför att vi i kontextuell information relevant vet att fara kan vara verklig.

För att förstå kostnaden sluter vi ögonen och visualiserar oss i en labyrint av mörker och smutsig lera under marken. Vi ser framför våra fötter ett färskt likt svagt upplyst av en svag lampa ovanför oss som med en svag smäll därefter dör. Vi hör ett svagt skrapande ljud ej i vår direkt närhet. Snarare i korsning till en tunnel 50 m bakom oss. När vi försöker vrida huvudet bakåt upptäcker vi att det sitter fast. Något är fastspänt vid halsen. När vi rycker till dras det åt likt en strypsnara. Varefter vi känner en hand nypande vår axel. Nästan trängande in genom huden. Det luktar illa. Ruttet som av mat så dålig att den är giftig.

"Working with dot-counting mice running through a virtual-reality maze, scientists from Harvard Medical School have found that in order to navigate space rodent brains rely on a cascade of neural signals that culminate in a single decision that prompts the animal to choose one direction over another.
[...]
'This winner-take-all view is elegant but perhaps somewhat oversimplified,' said study author Chris Harvey, assistant professor of neurobiology at Harvard Medical School. "Our findings suggest that groups of neurons keep track of all recently encountered visual cues and use this information to inform decisions. There needn't be an actual competition between two or more pathways, at least not in the areas of the brain thought to be involved in decision-making."

Från: Maze Runners

Att jämföra med mössens relativt nära släkting människans kulturella skapelse (som jag ej sett men tror mig begripa precis vilken arektypisk-film typ det är): The Maze Runner.

Den depressiva har vid denna punkt ingen kostnad därför att de ger upp. Övriga börjar via överdriven aktivitet bränna igenom möjligheter oavsett kostnader (här räknat om det hade varit verkligt antal döda neuroner vilket för varje sådan i sig kommer öka aktiviteten ytterligare då dödsfall av en neuron släpper fritt alla aktivitets-ökande kemikalier det har lagrat vilket per fall många magnituder överstiger aktivitets-reducerande). En del relaterat bl.a. aktivitet från döda neuroner kommer falla bort som contestant att ta sig ur problemet därför att de ej har erfarenhet etablerad strukturellt i dataprocessing för att klara plötsligt hög aktivitet utan börja bete sig irrationellt (d.v.s. upp till dör av strypsnaran). Andra kan ha specifik erfarenhet av problem-området som gör det hela "alldeles för enkelt" för att riktigt visa något av intresse (de kan ha övat att ta sig ut ur just sådana situationer via någon kroppslig rörelseenergi som uttrycks via spark-bakåt eller dylikt). Övriga kommer acceptera varje divergens, variant konvergens i strukturer av neuron-grupper utifrån vilken mängd kontextuell information från långtidsminne in i arbetsminne nuvarande situation som helst så länge de fortfarande lever och ej tagit sig ur situationen. Till vardags kräver sådant dock väldigt mycket och mer än vad som är effektivt när behovet saknas. Om det är ett val vi gör strategi väljer vi denna situation när ej nödvändig till priset av att vi ej kan se troligare alternativ d.v.s. alternativ också sannolikare får vår normala svensk korrekt funktionella (värden och möjligheter försvinner därför att föga troliga hot måste värderas: Därmed måste jag som gammal säkerhets-filosof och -expert säga långt ifrån alltid att det självklart är sämre att värdera även otroliga hot. Dock som individ krävs en del coping-skill om verkligheten under långa tidsperioder är att du lever under hot om det ej också ska innebära att du begränsar ditt liv. Optimalt ska ditt skill-set ej vara sämre än att när mer konkretiserat att du kan välja strategin riktat dig själv att gå ut och pissa ditt normala revir emedan om tvingad att hålla dig ifrån publikt rum accepterar du också viss kostnad i den psykologiska domänen så om det ej fortsatt ska riskera att påverka den världsbild behöver hanteras så att det ej sätter sig. Matematiska koncept som transformation till ett annat rum kan vara funktionellt och skalbart en mängd olika personligheter d.v.s. de kanske ej kan gå ut uttrycka ägande av sin verklighet acceptabelt säkert i staden i vilket land som helst just då men de kanske kan göra det i något jämförbart där faran är acceptabelt lägre med resultatet att när det större rummet är säkert klarar de föga störda av tiden problematiskt gå ut i den. Likväl får vi anta tidigare filtrering personer. En del personligheter kommer under de flesta möjligheter ej bra klara kontinuerliga hot, och också sådana som visat sig resilient många år slits gärna slutligen ner med varierat resultat att de gärna slår hårt och brett mot hot eller att de gärna flyr, eller mer stokastiskt varierat).

Men vad är kostnaden i en neurongrupp? Säg att en punkt vars aktivitet oavsett om semantisk centralitet kan öppna upp ett sökande i annan information för att försöka säkerställa / komplettera den högsta tänkbara aktiviteten som kan uttryckas. D.v.s. gående ner i information för att söka skatta aktiviteten. Där skattad fara sätter en yttre gräns för hur långt vi kan divergera in i otroliga förklaringar och otroligt användbar information vi någon gång mött.

Ett samspel divergens i andra nätverk av neuroner snarare än att omedelbart acceptera aktuell neurons inlärda mitt aktivitet under konvergens neurongruppen är vad vi antar är fallet. Något motsvarande torde vara fallet när konvergens i neurongruppen tycks när given ej stämma med andra konvergenser i andra neuron-grupper eller jämförbart i delsteg samma neurongrupp. D.v.s. om vad vi kommer fram till ej verkar stämma med given verklighet eller någon enkel minnesregel vi explicit eller implicit lärt oss (tycks förklaringen till situationen jag föreslog att man skulle föreställa sig vara att någon övernaturlig roll-typ är vad som sätter handen på oss kommer en del av oss kasta förklaringen utan att den ens görs medveten för oss medan den för andra personer kommer signaleras troligare än icke-övernaturliga förklaringar därför att de senare i konkret erfarenhet kan saknas fullständigt i allt som från sekundär erfarenhet skulle indikera det. D.v.s. att någon skulle göra arbetsinsats att försätta dig att vakna upp i verkligheten indikerar tycks för dummare mer automatiska delar av hjärnan mindre troligt än att det är demon / spöke som gjort det. Ett fåtal blir glatt upphetsade samtidigt som de rent kroppsligt slappnar av jämfört med annars under ej konkret hot snarast överspända av situationen: En mycket liten särgrupp parallell med de två tidigare refererade typerna vi ser som slitits ner under lång tid. Historik gör verklighet hot som en mindre kostsam verklighet än att vänta på den samtidigt som detta defekt ärvt något av en frisk verklighet tidigare verklig - i kontrast jämförbart med att reagera med regelmässig irrationellt flykt eller irrationellt angrepp vid minsta lilla indikation hot. Träning kan ibland ta vilken som helst av dessa rätt under hot även om de ej nödvändigtvis lätt kommer bra i vardagen.).

Vidare besläktat utnyttjas en motsvarighet (ofta väldigt icke-hantverksmässigt-optimalt) i generering av information. D.v.s. det tycks från hur vanligt detta är att det är föga kostsamt att försöka generera information pekande konvergens gjord via denna algoritm jfr att faktiskt själv konvergera denna typ. Här pekar man mer direkt på att givet något sammanfattat kontextuellt man kan ta för givet att ex. läsaren kan plocka fram är konvergens en viss fara given. Tekniken när utnyttjad mer normalt dåligt (som jag upplever fall när jag mäter effekt: Bryt punkt mellan dåligt och bra på ett års sikt ligger ungefär vid 500 st säkerställda personer som gått ut på gata och där på intensitet att de förekommit i nyheter publicerade av publicist i annat land. Under det ej energi-effektivt relativt kanal man når via om kanalen är sådan att den ej ligger under en rimlig räckvidd att betrakta möjligheten för d.v.s. för mig att vad vi bedömer effekt från gått ut via kanal som åtminstone är i minsta fall en av de skattat av mig 10 000 största publicisterna på nätet också förekommande tryckt. Med begränsningen självklar att vi kan se effekten som lika gärna ev. vara mer predikterande än orsakande där mer av know-how hantverket i sig uttryckt regler i discourse parsning än något jämförbart statistiskt antas särskilja det).

Jag valde bibel-ord som exempel för möjligheten att utanför exemplet varnat lite för stora ofta använda corpus etablerade från internet när det gäller grupper av ord vanliga i kristen-religion p.g.a. av diverse enorma kristna sajter som för enstaka i övrigt ej ovanliga ord kan störa separering ex. positivt - negativt / good - bad så som blessing eller bless vs hell, om man dessutom i råkat fått in ej ett fåtal andra ord med samma domän. Thee det har troligt koppling till ner-sidan av PMI i LSA d.v.s. jag ser det i mina 400-vektorer när känt för mig medan det är mina 300-vektorer skapade av de 400 som man upptäcker det via då riskerna PMI där naturligt reducerades via prioritering de 80 000 vanligaste orden på internet. Dock görande kontinuerligt subtraktioner mellan positivt / good och negativt / bad tillstånd tydliggörs det som problem krävande en balansering - om ej korrektare kastande problem-ord - icke-relaterad good-bad mellan resp. grupp ord för träning. Eller alt. kastande dem tillsammans med i, we, were m.m. som tillsammans approximerar förekomst med vilka ord som helst reducerande korrelation till tillstånden efter varje annan förändring om de går över tröskelvärde - som traditionellt gjort - eller som mer nytt alternativ istället alltid görs i parallell existens-linje för att slutligt jämföras och utnyttjas för reduktion som strukturell-information.

Nu blev det så att jag valde att mer eller mindre för eget (tänkbart) värde reflektera en del på vägen så jag kom ej riktigt så långt att jag nådde målsättningen att uttryckt nog information för att kunna avsluta med samma sak som i förra inlägget: Och därmed här publicerat är icke-patentering säkerställd.. Dessbättre är jag tämligen säker på att vi här tänkbart ej har behovet: Jag vet att jag publicerade för flera år sedan just här men att vi potentiellt ligger i några av ett antal inlägg jag flyttade iväg och ej publicerade igen och har ej kontrollerat oberoende arkivering. Men jag lär antar slutföra någon annan gång. Jag har annat att göra just nu.

Parallella gradient descent ~ Snabbare neuronnät: Förändrings-konstant som storlek minne bakåt i tiden

Värdet av att visualisera och/eller pröva uppenbara varianter. Om än med den gigantiska potentiella begränsningar i vad jag kallade sub-set. Notepad lika lite nu som för 25 år sedan klarar av att ge möjlighet att styra radbrytningar. Och jag ids inte korrigera alla här.

Säg att vi istället för vektorkvantifiering beräknar medelvärdet av slumpade vektorer viktade.

Är nu vikten - säg samma för alla - kortare än sekvensen är **minsta** minnet mindre än sekvensen.

Säg att vi samtidigt har oändligt resp. kortare minne. Och gör vektorkvantifiering.

För sekvens med kortare minne som uttrycker längre minne än **minsta** finns strukturell-information etablerad i dynamik slumpmässigt dragna vektorer och tillståndet.

Är det övertränat kan vi rent av ha flera "strukturella informations svartahål" etablerade det hela som uttryckt per tillstånd senast tilldelade närmaste dragna det kan slå mellan. Vi kan också få situationen att tar vi bort ett tillstånd återskapar övriga tillståndet och dragna tillståndet på upp till det mest olika tillståndet på några dragna. Jag upplever från detta att risken för att etablera överträning med neuronnät baserade back-propagation (utan att prövat eller kontrollerat det referenser) kan vara väldigt (enormt) hög jämfört med endast 1 st. linje med gradient descent.

Separerar vi två grupper med en linje har vi ej strukturell-information annat än på nivå det ev. går att särskilja från informationen övergripande.

Har jag oändligt minne samtidigt med vad helst normalt. Ev. flera även om ej alla nivåer använda bör vara nödvändiga. Kan det separeras. Godtyckliga cluster / kurvor. Precis som neuronnät med back-propagation (ev. sub-set där vi klarar det).

D.v.s. p.s.s. som neuronnät klarar det när flera lager kan vi approximera godtyckliga funktioner (tror jag: om vi ej är i ett subset till att fritt approximera alla kurvor / separera alla kluster önskade). Men några 1000-magnituder upp till miljoner-magnituder snabbare.

Från två vektor-kvantifierande gående parallellt är nog (ev. två).

Vilket spekulerar jag är förklaringen till att äldre metoder POS-taggning m.m. presterar över neuronnät.

De utnyttjar naturligt och direkt strukturell information etablerad av människa. Det är ju vad alla dessa egentligen alltid gör även när det ibland är indirekt så som utnyttjande något tränat innan på corpus eller hand-taggade texter.

Det är som att betrakta frågan som jag gjorde hur man uttrycker fenomenet att vektor-kvantifiering i någon variant liggande under avrundningsfel kan förbättra sig i vad det genererar (oavsett förändring tillstånden).
Nå det gäller givetvis endast under förutsättning att en människa Hans eller jämförbar finns som väljer när vi bryter från pågående effekt av något delvis slumpmässigt.

Dock helt olika frågan varför slumptal större eller lika med 0 men mindre 0 kan förändra saker mycket mer än slumptal större eller lika med 0 men mindre än 0.1 (Ubuntu pushar ut felaktigt rörande 32- resp. 64-bitar kompilerade paket vilket gör vad helst från challenge-response noise till Perl's rand-funktion defekta. Dessbättre utgår åtminstone inte jag från att kritiska datorer kan vara kopplade internet alls.). Den strukturella informationen ligger här i någon mening i katalogen apt-get använder.

Det slår mig att egentligen borde man kanske inte förvånas över det. Nu är neuronnät i back-propagation inte direkt vad jag någonsin riktigt kommit till att använda. Framför allt har jag upplevt dem förr långsamt även om jag kommit att förstå från diverse publicerat sista åren att de numera är mycket snabbare. Men som jag vill förstå vad jag minns av dem är det fortfarande i grund-mekanism i princip gradient descent men där vi dessutom gör quality assurance accounting från resultatet i varje lager från det sista (styrelse kontrollerar VD, VD kontrollerar vice-vd som manipulerar the books så att VD blir sparkad istället men det fallet här motsvarar mer att vi kodat algoritmen fel, utan denna kontrollerar neråt och korrekt att vi i resp. lager kan variera antalet enheter, utifrån vad vi från tidigare här skulle betrakta som hur mycket vi vill minnas).

Och därmed här publicerat är icke-patentering säkerställd.

Självorganiserade kartor: We have just folded space from Ix... Many machines on Ix.

Grundalgoritm (en anpassning av Kohonens självorganiserade kort) hittas via SOM med grundtänk i Att bygga den relativa korrelationen (den icke-linjära komponenter) under träning av självorganiserade kartor. Den problematik (eller kanske möjlighet) relaterad SEO diskuterad senare berörs kort där och har även kommenterats vidare i ett par till inlägg i SOM-kategorin (första länken, och bl.a. det kryptografi- och IDS-relaterade inlägget).

Ett alternativt - i riktighet beroende av hur vi har fördel att betrakta resonerande - sätt att se på den icke-linjära komponenten i SOM-algoritmen diskuterad i Att bygga den relativa korrelationen (den icke-linjära komponenter) under träning av självorganiserade kartor (med utgångspunkt bl.a. PCA - och även om jag kommit att förstå att många använder grund-algoritmen data-dumt på nivå att man ej naturligt får ut ex. bra representationer bilder - tvärtom ännu mer udda är det ganska vanligt med standard-applikationer att skapa helt topologiskt obegripliga representationer av ämnen - gäller att det är i den visuella enkla skepnaden vi enklast förstår såväl organisationen övergripande via inte minst meningsfullheten i distansen mellan tränade tillstånd, förändringen mellan tränade tillstånd lokalt, och när applicerat - och delvis tränat - på många skepnader ritade eller fotograferade av objektet det gemensamma i helheten som gör ex. klassificering såväl görlig som förvånande snabb när just det mest "talande" organisation och delarnas förändring sammanfattats ner) är att se vad som uttrycks (uttrycks därför att det ej är givet att vi behöver se det uttryckt för att detta ska existera lika riktigt) i vad populärt bland "tillämpade matematiker" (inkluderande fysiker, vissa datavetare m.m.) önskas se som bas-algoritmen i Kohonen-nät viker rymden (ex. Topology Preservation in Self-Organizing Maps, K Kiviluoto - 1995 - cis.legacy.ics.tkk.fi).

Praktiskt vad jag tycker vi beskriver som ett "avbrott" i hos annars förväntad "rakhet" (avbrott och rakhet tycker jag läsaren kan förstå som ett uttryck för den folkliga svenskhet jag tycker är mycket viktigare än den matematiska subkulturens senaste buzz-word för egentligen samma sak vi svärdat och kolmilat i Sverige sedan vikingatidens enforced-trading utan en massa onödigt strunt må det vara EU eller särskilda ord för hur vi hugger huvudet av problemet så länge det dör, kvinnorna beundras av metoden och munken har något av data-värde - skattkarta? - envorded out innan "terminated" att ta med sig). Något jag tror mina läsare jag genom åren förstått har mycket sämre ordförråd än jag har uppskattar ) i en topologi där en distans som uttrycks också blir en distans som är "rak" linje. D.v.s. avbrott där distansen säg mellan position 1 och 2 och 3 är lokalt sorterad riktigt men vi kan ha distanserat utanför det omedelbara lokala som avviker i att närhet till position kan skilja sig från positionen omedelbart bredvid där brytande topologi (om jag nu rätt uttrycker i ord vad jag praktiskt får ut i tabeller). Givetvis utan annan särskilj hantering än att träna mot närmaste är det ytterst rimligt att detta med slumpmässigt initierade vektorer ej uttrycker något i indata högre-dimensionellt men rätt gjort gör de det. Meningsfull distans existerar likväl men i värld med fler dimensioner än vi laborerar med direkt i tillståndens ordning.

Just begreppet av att se det veckat känns ej naturligt för mig. Hellre känns det närmare tillhands för mig att se det från några vanliga begrepp möjliga räkna på under träningen.

1. Sannolikhet, mängd, exakthet, och fler nära besläktade koncept för en arketypisk ex. ordtyp. Lokalt för mängden av dessa ord (enklast beskrivande med alla ord lika sannolika) kan vi hanterande grannskap få dem sorterade uttryckande linjärt exaktheten bestämning till närmaste dimension ger oss. D.v.s. här ligger också en koppling mellan sannolikhet att dra resp. träningsdata och exaktheten. Såväl som "andelen tränade" tillstånd vi träffar i mening av likheten till resp. med ett ord när tillstånden tränats färdigt till ordets globala allmänna sannolikhet (om det nu var denna sannolikhet som utnyttjades under träning: Havande själv ordentligt stor statistik sannolikhet är en faktor mer påverkande när tydligt den exakthet jag önskar för olika koncept-typer - Praktiskt egentligen nästan helt ingrepp av typen att se till att enorma mängder personer förekommande offentliga corpus ej för alla system som tränas upp ockuperar överdrivet många tillstånd).

2. Komplexiteten från en kanske egentligen utopisk eller lokalt praktiskt för en tillämpning för enklast en typ av ord till hur det via uttrycken språk i corpus till för de samplings-vektorer (säg via HAL, eller gruppen LDA-lamda-eigen-value-linje-skattningar-algoritmer) och slutligen möjlighet funktion beräkning distans.

Ett upplevt av typisk person komplext ex. ämne kan mycket väl ha låg komplexitet - lätt att sampla och ger mycket korrekta representationer hela vägen - vilket är fallet inte minst för medicinska områden (jag ser detta såväl egna corpus från bl.a. medicinska journaler, ontologier (inkl. biologi) som GO m.m., och referensböcker, såväl som också några färdiga vektor distributioner jag prövat: Men emedan jag vet att det går relativt bra att utnyttja Wikipedia corpus åtminstone efterföljande deras kvalitetsprojekt medicin med sampling journaler, ontologier o.s.v. har jag även noterat en hel kvalitetsproblem i halvfabrikatet Yago såväl som - kanske del-förklaring Yago-problem - Wordnet där också den senare har en viss ytlighet som heller inte motsvarar en funktionell ytlighet i mening likt en vanlig persons ytlighet jämfört med en specialist som håller sig uppdaterad ny forskning).

Hög komplexitet gäller emellertid bl.a. allt gambling relaterat när utgångspunkt är internet-corpus p.g.a. SEO. Trots nästan pinsam nedsmittning egentligen alla färdiga distributioner jag tittat på oavsett typ (inkl. två från ett par sökmotor-aktörer: Emellertid vet jag föga om koppling till praktiska sökresultat där lika lite som jag ser någon koppling här till vad man diskuterat när publicerande artiklar d.v.s. det kanske inte är vad man brytt sig i eller heller ev. är vad man vill korrigera för och därmed bäst för att ej verka ytlig i artikeln avstå från att diskutera ordentligt) är det ej svårt att hantera oavsett utgångsdata eller som jag hellre över-tiden vill betrakta detta hörande till operationer som ej hanteras indata eller tidiga steg utan efter att de första ordvektorerna skapats (vilket ev. kan upplevas lite svårare att göra om ej någonsin tränat dem vidare till ex. SOM-representationer där man får en representation enklare att förstå via en mer "begripligt sorterad" natur). Att ha samplat en av sökmotorernas sökresultat (egentligen många - ett tag närmast ätande sådant data lite tvångsmässigt - fler men en av the big dit vi ej skulle räkna ex. Lycos och jämförbart) medan den fortfarande hade ordentligt med spam-lokaliteter har jag också vissa kvantifieringar av hur det kan se ut (vilket mer är vad upplevde naturligt att använda hitta mönster snarare än direkt till någon sannolikhets-driven-funktion förekomst kombinationer även om mängden associerade ämnes-gruppen är vad som enkelt översätter tid eller beräkning att investera så är det i övrigt ej ovanligt vilka kombinationer som helst relevanta eller ej så).

I kontrast kan man dock bara manuellt surfa normalt av och till detektera egenheter utan tvivel relaterade viss abnormitet i vektor-representationer koncept. Jag har givit några exempel sista åren av och till och även om jag kanske inte uttryckte det ämnes-specifikt här så beskrev jag dem tämligen noga och åtminstone för en där jag upplevde att den stora valen införde något nytt jag upplevde likhet från till vissa diskussioner publicerade av en av deras experter med några uppföljningar upp till kanske 1.5 år (när jag råkade på rest-effekter fortfarande: Har ej reagerat därefter på länge så troligen inarbetat nu). Området här i perspektiv konvertering av sökmotortrafik ligger givet förutsättningar givet ett enormt internet-corpus att detektera problematik indatat föregripande träning mer i att detektera existerande promiskuösa kombinationer av ord för normalt (tar jag som givet här men har ej gjort mer än så) topic en lokaliserad avgränsning exakt som eller jämförbart hanterad med en sida på en sajt i ämne självklar relativt omgivning sajt p.s.s. som en Wikipedia-sida och mindre topic-styrd som för nyheter d.v.s. jämförbart med det lokala kontext som title och / eller kategorierna (utlänkar sida till dessa) ger för övergripande tolkning topic, medan jag är mer osäker hur motsvarande inlänkar mellan sidor på sajten påverkar här.

Flera algoritmer skapande ordvektorerna blir promiskuösa i likhet till andra ord av spam påverkad sampling. Ej olikt (delvis med säkerhet relaterat auto-skapat innehåll ex. där det går att skriva till, ändra, eller skapa sidor, något på internet där ord-uppräkning kan förekomma jämförbart) samma promiskuösa egenskap diskuterad med ex. svampar påverkade av vissa typer av Wikipedia-sidor (ej 100% att svamp-exemplen kom från dem eller dessa ev. var vad jag bedömde hade historik internet sample från stora biologiska art-organisations-sajter ev. för dessa något auto-skapat mot robot tänkbart eller om det var något annat likartat jag sökte orsaken till) diskuterat tidigare i Att bygga den relativa korrelationen (den icke-linjära komponenter) under träning av självorganiserade kartor (se även första stycke detta inlägg).

Tänkbart gäller här att speciell kunskap jag hade innan gav mycket större förutsättningar att detektera och hantera problemet. Det är föga om alls detekterat när representationer publiceras eller algoritmer diskuteras. Och ännu har jag ej sett att hantering publicerats. Just att expandera runt ord innan ej existerande efterföljande från skapade vektorer andra ord man vet förekommer med okänt ord är tror jag den närmaste för något funktionella operationer som kommer närmast att beskriva den skada som mer SEO-text-uppradande sample orsakar (medelvärde av för brett område och trots normalt tämligen promiskuöst språk när SEO-text ger skadande indata vilket ej alltid gäller viss meningsfullhet i kombinationerna resulterande i ett fält som kan visa likhet med allt möjligt). Trivial operation ibland användbar inom allt möjligt att subtrahera bort vektorer från vektorer, eller resp. "medelvärden" av dem, är helt icke-funktionellt för alla typer av representationer jag sett. Däremot under organisation vidare där såväl linjära-egenskaper som icke-linjära utnyttjas går det desto enklare (även om visst mått av helt annat data ej i vektorerna för SEO troligen underlättar väldigt: Liksom viss erfarenhet av hela SEO-affären):

Och med den diskussionen önskade jag uttrycka att komplexiteten ligger i försvarlig andel mer i vad vi kanske korrekt kallar för den algoritmiska komplexiteten träning resp. tillämpning. Medan åtminstone för ord och flergram-koncept komplexitet data i mening av svårighet att få det vettigt sorterat m.m. när vettigt indata finns egentligen ej varierar i magnitud i sammanhang av samlat tämligen tidsödande träning när vi laborerar språk allmänt med några miljoner eller fler koncept. Det kan kräva många fler av samma grundläggande operation men antalet operationer samlat är ändå väldigt väldigt många.

Slutligen ligger emellertid en fråga vi kanske ska sortera med komplexitet när det kommer till kunskap som uttrycker upparbetat värde som är komplext att skapa men som naturligt språk dåligt levererar samma värde för. Ex. ontologier över expertområden (DNA, arter, kemi, politik, geografi o.s.v. Mängder av exempel på sådana system hittas genom åren bakåt från när jag byggde Bluelight från många tusen - snarare tiotusentals när thesaurus, stora system av kategorier m.m. räknas in - sådana där viktiga eller intressanta diskuterades av och till). Enormt kompletterande värde ges när man börjar med samma ordvektorer och för koncept gör representation SOM från ex. orden i namnet och samutnyttjar det med SOM som skapas upp från relationerna till konceptet i ontologin (för mig Bluelight). Övergripande förståelse är för språk uttryckt i text (betrakta gärna ämnes-komplexitet krav läsare i nivå med vad som kräver hög grundkunskap för att vara begripligt att läsa) förväntad hos läsaren och adderar när gjord explicit (i för mig approximation som beskrivit) ibland enormt större beskrivning och exakthet jämförelser och rangordning.

Metoder som för in hierarkier eller uttrycker sense, kategorier m.m. för entiteter hittad i en text prövade jag ej. De känns problematiska genom att de adderar för sammanhanget onödig beräkningskostnad hanterade varje stycke indata. Vektorrepresentationerna i resp. steg klarar att hålla nog information i resultatet för ex. aspekter som sense finns med där och utnyttjande slutligen ex. för mig SOM-representationerna kan de tas ut där som önskat. Grundkonceptet utnyttjade jag dock för flera år sedan för prediktion nyhetsämnen (som ex. via exakt vad svårt eller omöjligt att bedöma görlig tid väderfenomen resulterande i omfattande skada någon del av östra USA och ej enormt utsträckt fenomen som detekterats på väg utan jag var helt ställd vad som i någon kombination av nyheterna i data som givit prediktionen vilket spoked med för ända gången någonsin relaterat dataanalys, datorer o.s.v. - en del mer fredliga demokrati-protester från mer begripliga ämnen månaderna föregripande m.m. - och om jag minns rätt här med en luddig tid ungefär normalfördelad med femte dagen framåt i tiden som topp och nere väldigt lågt fem dagar därefter - och om ej så ej givande alls korrekt prediktion för något styrd av metoden förändrande indatat i nyheter indikerad) genom att för varje koncept (fler-gram) förekommande i varje nyhet expandera det med alla dess relationer i Bluelight förutom konceptet själv d.v.s. för aktuell-version Bluelight (ej inkluderande annat än fåtal - upp till tiotusen kanske - personer, och ej småorter bromsande en bit ovanför kanske ej långt under 1/2 miljon personer om ej känd ort av andra orsaker) 20 upp till några tusen relationer (länder var för denna version ej lika gigantiska som de är idag). Mycket kostsam metod för mina dataresurser oavsett hur egentligen trivial. Interferens ges när stabilt nät representerande samlad vetskap från bl.a. samma koncept och deras BL-relationer (såväl som andra typer av relationer som samförekomst under olika tidsperspektiv bakåt upparbetat för systemet externa system) får statistiska värden av nyheterna uppbearbetande per för mig varje dygn (och görande väder-prediktionen med liknande efterföljande försökande demonstrerande för mig själv att den var en slump - stör mig fortfarande idag flera gånger per år när något får mig att tänka på det: Jag kände inte att världen ska fungera så här att det är bortom mig att se vad som indikerar det i fullt läsbara för människa skrivna nyheter ännu lite underligare eller i alla fall indikerande något om tids-komponentens exakthet ej fullt korrekt hanterande tidszonerna från RSS-sampling nyhetssajter: Faktiskt hälften av tester kastades all information förutom datumet d.v.s. ej räknande om till samma faktiska datum - Ingen sampling mot väderprognoser alls heller utan stora nyhetssajter cirka 10 000 - 15 000 motsvarande tidningar runt om i världen plus cirka 100 000 andra RSS-producerande lite tyngre sajter med ej intelligent då hantering fel-uttryck, om resp. nyhet ges i sin helhet eller sammandrag, om reklam eller motsvarande stoppats in). För löpande nyhetshändelser (ex. för en längre hela dynamiken för Arabiska våren, Sydsudan-konflikterna ej inkluderande sista två åren m.m.) ger som förväntat viss skattning framåt i tiden om än naturligt som vi vill ha världen påverkat av sådant som att en stridande part försöker överraska sin fiende vilket är oftare passerar förbi som en förändring intensitet m.m. ej förutsätt korrekt.

För resp. expansion gjordes ingen föregripande sense-bestämning för försöken ovan (även om jag gör det ibland annars). Däremot skedde det implicit i mening av att inget sense eller motsvarande någonsin antas ej gälla eller verka men att hela texten sammantaget (och ev. underliggande rubriker och stycken: Minns ej hur jag gjorde exemplet vilket var nu många år sedan. För optimerad snabb bearbetning nyheter kan det vara vettigt att göra bearbetning titel, ingress och ev. kategorier eller liknande, medan något likt en Wikipedia-sida kan vinna oerhört på djup analys med hänsyn organisation av sidan) bygger ett uttryck för interferens där implicit en skattning sense ligger (vi skulle åtminstone under antagande ett hanterbart sense resp. koncept - en del koncept kan ha relationer vilka ej uttrycker ännu alla sense eller kunskaps-områden konceptet förekommer i - för nyheten, samt om endast en representation utan hänsyn nyhetens organisation görs kan förvisso resp. sense uttryckas men ej vilket uttryck i nyheten det handlar om) möjlig att räkna fram från den (eller när önskat bättre räkna jämförbart men exaktare och snabbare direkt om samma typ av grundmetod ska användas). D.v.s. förekomsten av relationer samlat där gemensamma mönster uttrycks kan indikera sådant som att ett ämne är troligare än ett annat. Trivial algoritmen mest omedelbar (men tämligen begränsad om än ganska snabb) är att betrakta koncept förekommande samman i nyheten och p.s.s. relationerna samman nyheten, kombinerat statistik lokal detta (ex. hela nyheten och/eller lokalt stycken, rubriker m.m.) med global stabil statistik (ex. internet-corpus), med tidslokaliserad system-global-statistik, och som jag gjorde det ej begränsande detta till frekvens och sannolikhet utan utnyttjande vid tiden tror jag 15 - 25 st viktsystem (bl.a. systemet som föregrep emotionell intensitet (inkl. det isomorfologiska viktsystemet jag här använde parallellt EMI: Ev. finns den här och om inte publicerad annan plats), tidig version bluelight intensitet / BLI ett av några exempel värden publicerade i samband med nya beräkningar vikter), några entropi-vikter, "flödes-hastighet" lokalt i tiden (några dagar, en vecka, månad och sist kvartal) rörande hur ordet växer eller minskar i ytan över de koncept det förekommer med i nyheter.

Att lära sig att se ansikten i någon annans skalle

Rörande;

• Human Face Recognition Found In Neural Network Based On Monkey Brains | Technologyreview.com

Gäller välkänt sedan många år nu att hjärnan rörande dessa strukturer organiserar informationen topologiskt. Därmed var det också förväntat att just detta skulle vara möjligt att göra men av vad jag kan inse inte självklart sägande något alls om en gemensam funktion jämförbar finns för hur hjärnan utnyttjar eller ens skapar dessa representationer.

"Fenomenet" att neuronnät tar ut strukturen från meningsfullt data man egentligen inte vet organiseras eller skapas jämförbart för har vi bl.a. också för skapandet av visuella "kategoriseringar" av språkdata. Där neuronnät i alla dessa former genom åren lärt sig vad som verkar meningsfullt men i all verklighet inte säger något alls om hur hjärnan hanterar det i funktion. Att man här flyttat ett steg närmare "hjärnan" och gör det på den visuella aktivitets-representationerna från olika meningsfulla vinklar förändrar heller ingenting.

P.s.s. även om jag tror komplexiteten för det är mycket större än vi lär se några är probabilistiska (ex. vanliga maximum-entropi) parsers av aktivitet representationer av hjärnan läsande eller skrivande att förvänta. Metoderna som sådan används ju förövrigt (men för användning ordentligt mindre krävande än för parsern) för analys av bl.a. fmri-bilder (såväl som en multidimensionell variant av maximum-entropi jag ca var tredje år får för mig att jag vill se igen men varje gång svårligen hittar fram till ej minnas namnen: Numerande hittande sista två gångerna genom att söka New York State University om jag minns rätt på medicinska instituionen efter studie på fmri diskuterande också patentfrågor kring algoritmen vilket var vad jag hittar den via).

Så klart att man kan tycka att det är en strunt sak att peka på. Men det stör mig att neuronnäts-tekniken inte bara levererar värde i bättre algoritmer utan också när det (typiskt för den större domänen) "självorganiserar" (gör en massa små-operationer vi inte riktigt klarar att hålla reda på tillsammans) får så hamnade i hårda-insikter om att det antagligen förklarar vad helst annat också enormt komplicerat i data man idag ej begriper som ex. hjärnan.

En sak kanske talande emot just detta är att hjärnan tycks utnyttja serier av neuroner i inlärda linjer som look-up för en del data. D.v.s. inte bara bredare organisera topologiskt utan också slå upp i det görande att mer multidimensionell mening ligger bl.a. i samtidigheten över många sådana dimensioner. Jag tänker att komplexiteten för att lära mer neuronnäts-liknande för sådant nog blir ganska enorm även för hjärnan och samtidigt så onödigt: Du får ju samma ingångsvärden för samma varje gång oavsett hur fuzzy ex. själva ansiktsrepresentationen här om nu personen och platsen är samma - och emotionell association ej väsentligt skiljer.

Betyg: Lågt - Duger ej att läsa mer i för Husman

På försök ska jag börja betygsssätta ny forskning och teknik efter hur bra det hela verkar för mig. Högt betyg att jag här skulle lärt mig något nytt om hjärnan: Icke så inget nytt. Eller vi lärt något nytt om neuronnät: Känns minst sagt otroligt även om jag inte tittade vad dom nu gjort med algoritmerna.

Meningsfullhet i forskning såväl som annat känns viktigt för oss alla. Kan jag bjuda till för ett bättre samhälle med mer användbar forskning vill jag gärna göra ett försök. Att vi alla vågar dela är så viktigt för vårt världs-stora ändå lokala samhälle. Det skapar förståelse och vi känsla förebyggande konflikt och problem. Faktiskt att jag märker att jag blev lite uppåt här på att dela av min ranking för att uppmuntra bättre kvalitet för mig och säkert många andra som vill lära eller tillämpa till något bra de har nytta av.

Jag har inte känt mig lika uppåt av att dela här sedan jag agerade kraftfullt mot problematiken med negativa stereotyper gediget illustrerande många av problem-domänerna i inte minst en serie av fler än 100 hånfulla skämtteckningar.

Youtubes sökning duger inte för tuffare problem vi vanliga musik-sökare möter på det verkliga nätet

Youtube är en praktisk och trevlig tjänst fyllande en viktig core functionality in the Husman everyday enterprise:

• Vi kan hyggligt använda gränsssnitt.
• Den kan spela musik relativt enkelt och har alltid fungerande träffar. Annonseringen stör lite mer nu tror jag (julen kanske) men samtidigt kostar det att lära sig något nytt att höra musik via.

Youtube har alltid gjort samma sak här när man söker. Titel och musiker löser problemet (ibland fodras "särskilda" varianter av namen även om Youtube är tämligen enkel bedömt från föga varianter här jämfört med andra kanaler: Säkert delvis därför att de har kanaler och apier för leverantörer att själva ställa in filtrering vilket jag gissar ibland blir en aning "distansierat" från verklighet - kanske just namnen) . I övrigt är det mest när jag kunnat följa upp mer noggrant (och jag har ett par gånger rent av tittat ganska omfattande på Youtube så upplevelse sökning mot faktiskt innehåll på sajten är möjligt för mig) gäller context från diskussioner och beskrivningar: Ej lösande mitt problem. Jag vill höra musiken och ibland se något särskilt. Ej diskutera det med folk.

Men vad gör vi - eller jag - när jag ej minns namnen som får Youtube att leverera? Jag hade kunnat söka runt med Google men för dessa områden levererar den ej heller annat än efter en tämligen överdriven ansträngning. Letande Wikipedia levererar alltid givet deras välutvecklade listor. Men där ligger en brytpunkt i ansträngning för alla situationer där seende aktuella concept beteckningar ej kommer ge slutförd association rätt.

Eller så tänker man sig att Youtube datasystemen börjat läsa bild-innehåll och man kan söka på det. Jag prövade det (också antagande någon form natural language parser hellre än att sitta och läsa sökmanual för ev. kanske ej trolig riktad funktion för det).

Första snippet-bild ser röd ut. Men inte meningsfullt röd. Bara irrelevant röd.

Så här ser jag på på detta:

• Jag är säkert tämligen vanlig. Därmed är jag en viktig person när jag uttrycker behov. Det finns säkert massor av andra som söker så här men som genereras (p.g.a. hela den här subkulturella diskutera videoklipp där jag tänker att musik-elitister kan se ner på vanliga enkla musik-lyssnare som jag).
• Jag är mycket viktigare än Google-medarbetarna närmare kreativ-kravställning. För Google-användare som är Google-medarbetare är mindre vanliga än vad jag är också tror jag när betalda surfare (d.v.s. ingen intäkt hoppas säkert och riktigt så alla Adwords annonsörer utan kostnad).
• Google och Youtube borde rimligen kunna massor här. Men de har spretat ut genom åren samtidigt som höga intäkter gjort dem lite "förtjockade". Den hårda verkligen blir nog ofta distansierad i solens Kalifornien samtidigt som ontologier, fina tänk datastrukturer, moln-grafer och annat blir allt populärare bland medarbetarna.

Ett riktigt problem. Från det riktiga internet som byggde det hela från behov som betyder något.

Det gäller att inte glömma att internet finns för vanliga människor med verkliga i total mängd gigantiska problem.

När man glömmer sti ursprung var vi kom ifrån blir vi rotlösa och ny erfarenhet kan divergera till subkultur där den inte bygger på annat än den egna internet-frånvända tankarna.

Ett exempel välkänt i Sverige är Televerket och Sveriges Television länge svårt (och den senare fortfarande drabbad) divergerade från verklighet.

Erfarenhet av Telia kanske var Flag semaphore såväl som senare teknik man lärt sig och vant sig vid. Resulterande i stagnation: Ett trivialt något motsvarande söka med Youtube-exemplet var att man ej fick sälja eller koppla in vilken telefon som helst utan det fanns en standardiserad telefon och alla hade samma (i några färgvarianter).

Och vad är framtiden när musik och kultur glöms? Musik har varit big business bra länge i såväl som utanför internet.

Gissar jag rätt finns kanske en del utmaningar i pengarna hos Youtube givet detta. Funktioner har kommit i diverse långt utanför värden verkliga och välkända i alla fall för mig (Youtube fame-persons och small teve vet jag ingenting om: det är inte vad jag alltid gjort på Youtube). Och de har sista året börjat pusha annonser mer aggressivt. Så går det när man tappar sina rötter hos oss gamla internet-användare med riktiga problem och säljer ut till "kul-konceptuell-systemutveckling" och filmatisering av en massa ungdomar som vill bli kända, kapitalisera Google, eller uttrycka något konstnärligt (musik är big business övrigt är mer tveksamt spekulerar jag).

Här så elegant skapar ju själva musik-videon ett värde även om man kanske ofta endast är intresserad av musiken: Jag beskriver något jag minns från den och maskinen letar rätt på rätt musik som jag kan lyssna. Hur kan ett visuell organisation som Youtube missat det utan att lämnat den hårda verklighet där problemen är fortsatt fortgående och pågående ännu en dag.

Ett internet där man löser core problem och inte sitter och tittar igenom tiotusentals videoklipp för att uttrycka en skepnad. Vi vet ju sedan länge att det går - och också om jag förvisso om någon inte underskattar den utmaningen det säkert innebär även för en resurs-stark entitet bara att hantera datat och strukturerna - så tror jag säkert att enklare "feature" detektioner i klipp mappande mot typiska sökkoncept (eller varför inte NP-fraser med adjektiv lika gärna: red ball + afroamerican musician in cloth looking a bit like a uniform.

Jag har inte läst-upp-mig på vad de använt för algoritmer tidigare. Men möjligen - och kanske ett ok val för en tämligen infrastruktur-utspridd-entitet som bygger stora analys-strukturer - har de intresserat sig för Boltzmann machine.

Beslutsteori och kreativitet: Fano inequality och diskriminerbarhet

Betraktar vi problemet vi löste i Möjlig lösning: Aktivering av tillstånd relativt likhet i kontext precis omvänt har kanske en motsvarighet i vad som indikerades här:

"In a new study, published March 27 in the online, open-access journal PLoS Biology, Anne Collins and Etienne Koechlin of Ecole Normale Supérieure and Institut National de la Santé et de la Recherche Médicale, France, examine frontal lobe function using behavioral experiments and computational models of human decision-making. They find that human frontal function concurrently monitors no more than three/four strategies but favors creativity, i.e. the exploration and creation of new strategies whenever no monitored strategies appear to be reliable enough."

Från: Creativity and human reasoning during decision-making | EurekAlert!, AAAS.

Här är ju släktskapet med Fano inequality ger oss en skattning av tydligare. Det handlar ju just om ett mått på hur "fel-tolkningen" påverkar gränsvärdet för meddelandets information:

"Then, for each incorrect output message the correct input message must be identified. The number of possible input messages is N−1 because the output message is known to be incorrect. Thus the amount of information necessary to identify the input message cannot exceed log(N−1) , and the corresponding average amount of information to be provided cannot exceed P(e)log(N−1) , the second term on the right hand side of (2)."

Från: Robert Mario Fano (2008), Scholarpedia, 3(10):6648.

Så vi kan kanske se det som att när strategier falerar här blir vi kreativa och söker något nytt och spekulera att kostnaden för att hantera det ökar med ökande n (och oavsett om en möjlig kostnad hade existerat innan är det kanske inte vad vi i klassiskt evolutionär-verklighet någonsin riktigt har rutiner för givet kända samband från mänskliga beteende relaterat hasardspel. för snabb-inlärning kring irrationella ej väsentliga faktorer på 1 till 2 träffar ej påverkat av många fall därefter o.s.v). Innan tre (för andra logaritmen) är ju tänkbar information vi behöver tillföra inte definierat alternativt 0 (vad vi saknar uttryck för). Stämmer det behöver kanske inte antalet strategier vara så hårt bundna till tre och fyra utan kan kanske variera också en bit uppåt beroende av hur sannolikheterna upplevs.

Åtminstone om vi ser det från Fano inequality världen. Vi kan ju också tänka oss att det åtminstone handlar om diskriminerbarhet d.v.s. det måste gå att särskilja vad som hör till strategier eller varför inte n stycken objekt vi håller i arbetsminne. Är ex. objekten features till visuella bilder har vi en enorm-mängd träningsdata vi plöjt igenom under vårt liv och skattningar av osäkerhet ex. enkelt relaterat gränsvärden via normalfördelningen för variansen blir därefter, och vi kan hantera många fler detaljer. Handlar det istället bara om vanliga ord räcker det inte lika långt därför för dom har vi mycket större varians. Det här resonemanget har en del praktiska värden också ex. blir det möjligt att resonera praktiskt görligt jämförbart mellan en individ i beslut och kollektiva beslut för populationer under antagande av funktioner för att uttrycka motsvarande pooled variance (bättre uttryckt som volativitet).

Tveklöst ett fascinerande intressant ämne också för många läsare. Eller kanske hade varit det om mer applikationsnära-tillämpningar diskuterats (det hade nog varit lika tråkigt ändå om problemet och dess lösning diskuterats men det är bara nyttigt för mina läsare att få lära sig lite självbehärskning eller i brist på det avstå från något utvecklande: här kan jag se ett moraliskt ansvar att bygga upp läsaren till en kanske mindre glad men nyttigt produktiv samhällsmedlem som skapar tillväxt inom långsiktiga nyckelområden viktiga för Nationen och Världen).

Möjlig lösning: Aktivering av tillstånd relativt likhet i kontext

Här har vi en tänkbar lösning på Aktivering av tillstånd relativt likhet i kontext jag lutar åt att de praktiska testerna mot data (dröjer något dygn tills nytt cache-data för similarity beräknats klart) kommer visa sig är korrekt fungerande.

Jag började med att titta igenom de sidor Wikipedia hade för information criterion och experimenterande en del praktiskt med miniräknaren i första lagret. Ingen uttryckte direkt vad som var funktionellt gav en idéer som ledde fram till ett uttryck.

På det sätt similarity beräknas står det i nära relation till förhållandet mellan feature relations (andra symboler inlärda relationer existerar till: vanligen cirka 40 - 10000 st) som är lika respektive olika, och den relativa associationen (i princip P ( symbol | relations | "prototypiskt" kontext)).

Vi kan därför också tolka similarity måttet (alltid [0,1]) som sannolikheten eller vår tro att när det i ett givet kontext är relevant för symbolen från dess perspektiv (för vilket man ev. kan reducera från prototypiskt kontext - vilket dock för de flesta situationer inte tillför värde relativt beräkningskostnad att avvika från cache-bart-data - genom att aktuellt kontext ger att vissa relationer där inte är meningsfulla att bedöma rörande likhet).

Tolkning / tron / beslutet att symbolen / gruppen av symboler vi beräknar similarity med är relevanta för aktuell symbol från dess perspektiv vi undersöker hur lika det är motsvarar hur troligt (där vi här förenklat ej inkluderar andra faktorer) det är riktigt att symbolens neuron / neuron-grupp ska aktiveras. Approximationen som görs just här från det är att styra aktiveringen av resp. sådan symbol-neruon från similarity vilket är funktionellt här därför att det totalt handlar om för ett också begränsat kontext oftast för vanliga "nyhets-starka" symboler t.ex. två länder och något kraftfullt mellan dem som "handelsavtal", "krig" o.s.v. flera tusen neuroner som kommer aktiveras.

Oavsett antalet symboler i kontext vi beräknar similarity mot gäller att de enda symboler vi behöver ta hänsyn till är vilka likhet är större än noll därför att om likhet är 0 för en symbol kan ingen kunskap om denna ha nått oss just därför att similarity approximerar aktivering utlöst av kontext.

Antalet symboler vår trosföreställning om att det är "riktigt" för "oss" (menande neuronen som beräknar similarity mot kontext) styrs därför uteslutande (när vi här uttrycker det förenklat utan andra faktorer begränsat till denna problemställning) av:

• N uttryckande antalet symboler som similarity är större än 0 för.
• Total similarity för dessa N symboler (andra sätt att värdera samman similarity är givetvis också tänkbara men detta tycktes för mig en god utgångspunkt man kan argumentera för och om praktiskt funktionell mycket beräkningseffektiv givet endast addition).

Vår tro på att aktivering är korrekt är inte orimlig att anta växer med ökat N oavsett similarity. Det är ju också vad som var indikerat i utgångspunkten för själva problemet där det i väldigt mycket finns en fascinerande viktig undre gräns vid som jag ej förstått men som denna lösning inte otroligt förklarar.

Skattningen av vår tro på att vår aktivering är rimlig som uttryckt i hur mycket vi aktiverar oss från N st. värden för givet kontext är om ingen historik vi också kan skapa legitima skattningar från existerar kan vi skatta gränsvärdesriktigt med:

WP = Total similarity * 1/N = W / N

Betraktar vi de N symboler vi uttryckt likhet större än noll med som varsin symbol i ett meddelande hade gällt att vi utan annan information kan uttrycka informationen de för en given sådan sekvens när deras ordning saknar betydelse som:

ln (N) / ln (2)

Där om vi hade kunnat betrakta en historiskt d.v.s. hanterande att förutsättningarna för similarity kan vara olika vid olika kontext utanför själva symbolerna som anses vara identiska vad vi bättre hade uttryckt som (om det nu hade alls varit rimligt att anta "slumpmässighet" snarare de meningsfulla kunskapsdrivna förutsättningarna här mycket given kunskap finns för intelligensen att tillgå)

(1/n) * ln (N^n) / ln (2) -> gränsvärde när n -> oändligheten

Det tillsammans skulle (uttrycket liksom ovan är ej vad jag gjorde och menar jag bygger på felaktiga antaganden men en god start för att försöka förklara mitt uttryck från traditionella relationer inom informationsteori) ge oss ett kombinerat uttryck enligt:

WP * ln (N) / ln (2) = (W/N) * ln (N) / ln(2) = W * ln (N^(1/N)) / ln ( 2 )

Det uttryck jag fick indikerat motsvarar dock inte detta där skillnaden är att vi har (N - 1) istället för N. Jag noterade precis av en slump att det motsvarar (om vi antar att övriga antaganden är rimligt motsvarar varandra) uttrycket för gränsvärdet i Fano inequality.

Efter en del funderande tycks det inte orimligt för mig men jag vågar mig inte på att söka förklara det åtminstone nu. Och det var ju heller inte vad jag utgick från att acceptera att sätta N - 1 i logaritmen var rimligt.

Vad som fick mig att acceptera N - 1 (acceptera i meningen givet att nu detta praktiskt gav ett mer beräkningseffektivt uttryck utan större fel - tvärtom utan andra åtgärder något bättre från och med tre) är att vi inte kan ha samförekomst rörande similarity som är N.

Om vi akiverar neuronen på första likheten exiserar ingen samförekomst. Aktiverar vi på första och därefter andra vet vi (lämnande elektriska potential-förändringar o.s.v. i neuronen och hållande oss till vad vi kan se som numeriskt uttryckande nivåer givet neuron-gruppen statistiskt) att vi uttryckt likhet innan och får ett nivå uttryckt givet motsvarande den biologiska neuronens återupptagning.

Det ger oss nu N - 1.

Relevant i detta sammanhang är Weber's lag med flera liknande relationer konstaterat rörande så mycket relaterat perceptionen. För att kunna resonera om samtidighet krävs i dessa sammanhang denna typ av uttryck snarare än en absolut-nivå. Låt oss uttrycka Weber's lag på den form jag personligen föredrar:

(Aktivitet ( t = 2 ) - Aktivitet ( t = 1 ) ) / Aktivitet ( t = 1 )

Samtidighet uttryckande meningsfulla samband kan antingen i en situation röra samband inlärda eller vad efter att de konstaterats meningsfulla ska uttrycka inlärning.

Är händelse A känd i inlärning som meningsfull i situationen kommer detta uttryckas via för det anpassad aktivitet. Vi väljer här att se det som motsvarande ökad aktivitet (för att få en rimligt enkel förklaring här).

Händelse B har vi ej inlärda samband för rörande situationen. Den uttrycker därför ej anpassad aktivitet genom förstärkning utan endast aktivitet relaterat att den förekommer.

Söker vi meningsfulla relationer i samtidighet utan att normalisera för magnituden kan i endast identifiera samband mellan händelserna vi som A redan delvis lärt oss och med andra sådana vi lärt oss med en nivå av meningsfullhet jämförbar.

Jämför gärna med ett kollektivt exempel. Antag att organisation A agerar enligt "verktygs-domän" Q positivt verkande för ett kontext. Mycket mindre organisation B med för oss dolda relationer till A agerar också på motsvarande sätt men i mycket mindre magnitud.

Normaliserar vi för magnituderna och utgår från att söka samband med händelser känt meningsfulla blir det mycket mer beräkningseffektivt att identifiera dessa. Det tycks heller inte för mig självklart att det är särskilt enkelt att för hjärnan att söka dem på annat sätt. Rörande organisation av kunskap, geo-rum m.m. tycks ju grid-celler vara vad som uttrycker detta. För händelse-kedjor ex. motsvarande att vi vandrar i dessa kan vi göra Markov antaganden, och vi kan också se hur kedjan kan representeras motsvarande en länkad-lista (jämför med hur vi uttrycker samband i närminne där det sker genom att uttrycka beräkningseffektivt ökad närhet mellan en neuron och en annan neuron i statistisk-centralitet). Emellertid gäller för samtidighet vi ej känner och som vi ej motsvarande sökt vandrande en väg att dessa ligger utspridda i motsvarande denna grid och därför inte på detta sätt självklart kan identifieras.

Däremot är det ett enkelt problem att helt enkelt söka mängden neuroner som aktiveras av en viss typ. Men när vi tar dem ut ur kontext för att söka meningsfull samtidighet gäller att om vi inte normaliserat rörande magnituden innan det lokaliserat att vi behöver (så vitt jag kunnat se) mer information för att klara att bedöma den d.v.s. att vi måste dyka ner för varje sådan symbol i vilket fall vi inte alls har någon beräkningseffektiv lösning.

Vidare gäller att vi här i princip har enorma hyperkuber med hundra tusentals praktiskt implementerat men helt säkert mer i hjärnan antal dimensioner. Antar vi att dimensionerna när likställda varandra inte uttrycker andra enheter än vilka dimensioner de för kontext är anslutna till gäller ju att vi kan få bort dessa genom att titta på den relativa skillnaden. D.v.s. vi behöver inte förstå varför neuronen uttrycker en viss aktivitet när vi söker samtidighet med en annan neuron.

Om denna förklaring är närmare hjärnans verklighet än andra för Weber's lag vet jag inte men den är närmare den praktiska verkligheten av att söka beräkningseffektiva implementationer i dator.

Slutligen: Är gränsvärdet vi får med WP * ln ( N - 1 ) / ln ( 2 ) den övre eller undre gränsen? Egentligen tror jag att det är det undre-gränsvärdet men praktiskt har jag lärt mig att jag alltid först kommer till den slutsatsen när det är det övre-gränsvärdet. Också erfarenhetsmässigt vet jag att det praktiskt bara varit positivt-värde i beräkningseffektivitet inte mätbara reduktion i korrekthet att utnyttja övre-gränsvärden relaterat informationsteori. D.v.s. jag är inte helt säker på vilket ännu och bryr mig inte att härleda det innan jag gjort testningen mot data.

Komplettering: Aktivering av tillstånd relativt likhet i kontext

Kompletterande Aktivering av tillstånd relativt likhet i kontext är något man kan fundera över varför tre är ett praktiskt fungerande tröskelvärde. Tre är dessutom ganska väl underbyggt både i analysstudier praktiskt här och från situationer som kan betraktas som jämförbart med detta för en individ.

Jag har egentligen ingen bra teoretisk-förklaring av det som jag upplever att jag särskilt tror på eller har något konkret indikerat annat än att det skulle förklara det.

En lätt statistiskt inspirerad förklaring är att vi för första och andra fallet kan skatta en idé om hur vi ligger relativt vår inlärda centrality för similarity- / salience-aktivering medan vi i och med den tredje har minsta möjliga för att också söka skatta hur avvikande från denna kontext är d.v.s. om vår inlärda centrality är 0.5 i similarity stämmer kontext väldigt olika med det om vi har {0.1,1.0,0.5} resp {0.5,0.5,0.5}.

Tänkbart är BIC (Bayesian information criterion) fungerande här. Jag har ingen riktig känsla för det därför att den ligger ganska långt ifrån kriterium jag tenderar att välja (normalt för situationer där sådana är aktuella har den tycks tveklöst sämre än alternativa). Men kanske uttrycker den just praktiskt fungerande värden här för hur varianserna för similarity typiskt kommer fördela sig relativt antal koncept vi uttrycker någon likhet med?

Aktivering av tillstånd relativt likhet i kontext

Jag tror mig minnas att jag förra året skrev något om aktiveringsfunktionen jag antog kunde gälla inlärning utifrån likhet. Nyligen upptäckte jag den för första gången beskriven någon annanstans vilket gav den viss trygghet (samt praktiskt gjort den mer tidseffektiv därför att en del konsekvenser var färdigt uttryckta där utan att kräva att jag härleder dem) i The Statistical Approach to Learning Theory, W.K. Estes i Psychology: A Study of Science bok General Systematic Formulations, Learning and Special processes.

Frågan just nu är inte helt oviktig därför att jag har en praktisk utmaning i hanterandet av hur fortlöpande kontextuellt tillstånd (se Drifting thoughts i kartan: Common sense - Arkitektur) ska påverkas av similarity med aktuellt kontext.

För den effekt detta korrekt har jag konstaterat tre saker (bl.a. via avstämning mot "reaction time forskning" i psykologin):

1. Similarity är från perspektiv av noden snarare än resp. koncept i kontext. Det är ju också högst rimligt i att informationen påverkande aktiveringen biologiskt måste överföras från resp. konvergens i kontext via signalsubstanser (eller om man vilket jag sällan gör betraktar det från elektriska vågformationer) till noden.

2. Aktiveringen styrs av nivå av similarity med respektive koncept i kontext alternativt styrs samlat av kontext.

3. Aktiveringen styrs av antal koncept noden uttrycker likhet skild från noll mot.

Att föra samman två och tre till ett uttryck har jag dock inte klarat av på ett bra sätt.
Filtrerar jag bort via en enkel threshold antal (tre är den fungerande här) gäller att man kan uttrycka RT-värden transformerat till salience-aktivering [0 - 1] rimligt.

Beräknar jag istället bara similarity med resp. koncept och summerar kan det ge "korrekta" värden. Men det går också att hitta fall där det ej översätter korrekt. I princip gäller att en hög likhet med ex. ett koncept och noll likhet med övriga koncept ger ett för högt värde.

För att lösa det här problemet elegantare än att direkt filtrera på antal har jag sökt lösningar i forskning inom psykologi, neuronnät m.m. resp. tittat över välkänt fungerande algoritmer. Jag upplever bl.a, att ganska stor konceptuell likhet med inverse document frequency gick att se. Men min första definition för information utifrån det falerade.

Det tycks väl för mig heller inte otroligt att man mer insiktsfullt hanterande detta i beslutsträd med värdena transformerat till sannolikheter kanske klarar att fånga detta. Ev. något beslutskriterium från bayesianska strukturer eller från diverse liknande. Just i detta ligger vi dock väldigt nära medvetande som koncept och där är det mycket rimligt att undvika Markov-inspirerande lösningar (därför att dessa har demonstrerat relaterat bl.a. semantik vara fungerande hos människa också utan eller med nedsatt medvetande: inte minst intressant för vissa modeller som söker uttrycka medvetande den vägen ).

Just den här utmaningen har hängt kvar ganska länge nu. Mest elegant vore givetvis att hantera det via inlärningsfunktionen för similarity. Elegansen i det är dock mer irrationell personlig därför att jag är lite missnöjd över att jag inte praktiskt sett någon naturlig plats för uttrycket i övrigt där det adderar värde.

Frågan är ju också hur man ska förklara detta teoretiskt? Grundförutsättningen måste ju vara att aktiviteten uttrycker en "konvergens" till resp, WP-nod. Vidare gäller antagandet från modell att neuronen har vissa möjligheter givet dess inlärning att i neuron-gruppen och dess dendrit-träd detektera grad-skillnader utifrån vinkeln trafiken når den (d.v.s. om aktiveringen innan har preferens mer i en riktning på större avstånd blir vissa delar av dendrit-trädet mer sannolikt relativt trädets centrality). Kanske är därför förklaringen förstärkning från samaktivering av större delar av neuron-gruppen och/eller dendrit-trädet.

I så fall skulle i princip gälla att om vi i kontext har ex. tre nära nog identiska koncept blir aktiveringen per total similarity lägre än om similarity varit skild.

Vidare gäller att om similarity mellan ex. tre koncept är sådant att vi för ett ligger kraftigt i en riktning ("vänster" sida av trädet), för ett nära centraliteten och för det tredje tydligt till höger, bör aktiveringen bli större.

Samtidigt är som vi inser särskilt från sista exemplet frågan vad större aktivering är.
Här i den tänkta formen för dendrit-träden för de neuroner mer troligt motsvarande tycks för mig att det inte är orimligt att se dessa uttrycka approximativt en sfär resp. approximativt en platt cirkel, vilket gör att normalfördelningen är rimligt fungerande. Det blir en värd av vinkel och aktiveringsnivå där vad vi önskar normalisera olika uttryck med är mitten (centraliteten).

Praktiskt känns det mindre intressant att testa denna idé även om den kanske teoretiskt är troligare därför att det är ganska omfattande programmerings-logik samtidigt som att faktiskt värde är åtminstone för mig oerhört svårt att kontrollera innan. I princip behöver man skatta hur sannolik en vinkel är i aktuellt i kontext och ev. givet tidigare kontext och ev. också inkluderande aktiveringsnivå.

Istället vad jag känner troligt finns men att jag inte ser p.g.a. design fixering eller något annat är ett enkelt och bra ganska välkänt uttryck som klarar att fånga sådant här. Kanske något beslutat inverse document frequency eller divergenser (jfr Kullback). Jag hade väl hoppats att formulera problemet här skulle lösa det åt mig men inte: så tips uppskattas.